WEBVTT

00:00:00.000 --> 00:00:15.120
Music.

00:00:14.964 --> 00:00:18.864
Tag zusammen, hier ist der Götterkomplex, eure wöchentliche,

00:00:18.944 --> 00:00:22.104
naja, zweiwöchentliche Dosis Science Fiction.

00:00:22.384 --> 00:00:26.724
Mein Name ist Philipp und ich bin wie immer nicht alleine hier im Studio mit

00:00:26.724 --> 00:00:33.404
mir, der in Decken eingehüllte, unglaublich sexie Niklas. Hallöchen.

00:00:35.144 --> 00:00:40.024
Awe zusammen. Ja, schön, dass ihr wieder eingeschaltet habt.

00:00:40.184 --> 00:00:42.224
Es ist saukalt in meiner Wohnung.

00:00:42.424 --> 00:00:45.724
Ich habe keine Ahnung wieso, deswegen habe ich mich im römischen Stil jetzt

00:00:45.724 --> 00:00:49.984
auf mein Mikrofon gesetzt und freue mich auf den heutigen Tag.

00:00:49.984 --> 00:00:54.764
Es steht dir gut, insbesondere weil die Decke ein Weiß oder ein Beige ist,

00:00:54.904 --> 00:01:00.744
ganz im Gegensatz zu Otti, der sich nämlich mit einer dunklen bis grauen Decke eingehüllt hat.

00:01:00.844 --> 00:01:04.724
Es scheint kalt in eurer Heimatstadt zu sein. Hallo Otti.

00:01:05.324 --> 00:01:08.344
Schönen guten Tag an alle da draußen. Nee, nee, ich mime nur den Nazgul.

00:01:08.904 --> 00:01:11.424
Das ist so ein Hobby. Okay, gut.

00:01:12.104 --> 00:01:16.544
Nicht, dass du noch andere seltsame Hobbys hättest, wie zum Beispiel einen Podcast

00:01:16.544 --> 00:01:21.264
über Science-Fiction, einen Podcast über Science-Fiction-Worldbuilding.

00:01:21.404 --> 00:01:25.644
Ja, herzlich willkommen auch euch da draußen an den Endgeräten, an den Hörgeräten.

00:01:26.244 --> 00:01:31.864
Ihr habt eingeschaltet mal wieder zum Götterkomplex und wir befinden uns in unserer Konzeptreihe.

00:01:31.944 --> 00:01:36.604
Das heißt, wir behandeln hier in verschiedenen Folgen ein Thema aus verschiedenen

00:01:36.604 --> 00:01:40.924
Blickrichtungen und versuchen zu schauen, wie wir dieses Thema in unseren Götterkomplex

00:01:40.924 --> 00:01:44.204
einbauen können, also in unser Science-Fiction-Universum, was wir gemeinsam

00:01:44.204 --> 00:01:45.644
mit euch erschaffen wollen.

00:01:45.744 --> 00:01:51.384
Und wir sind schon geraume Zeit zugange, uns irgendwie dem Thema KI zu nähern.

00:01:52.027 --> 00:01:56.587
Und ich sag euch, ich sag uns, das war bis hierhin ein ganz schöner Ritt.

00:01:56.687 --> 00:02:01.127
Wir hatten fantastische Folgen, fantastische Einblicke und ja,

00:02:01.367 --> 00:02:04.307
interessante Momente, wo wir uns alle nochmal gedachten, ah,

00:02:04.507 --> 00:02:09.327
okay, wow, so läuft das und das wollen wir fortsetzen.

00:02:09.327 --> 00:02:13.367
Wir haben uns gedacht, wir machen uns jetzt mal auf die Reise und versuchen

00:02:13.367 --> 00:02:16.467
das Ganze mal ein bisschen über die Aktualität zu denken.

00:02:16.727 --> 00:02:21.987
Wir wollen eine kleine Diskussion starten und auch vielleicht mal die möglichen

00:02:21.987 --> 00:02:26.607
negativen Aspekte oder die Ängste, die es vor KIs gibt oder vor künstlicher

00:02:26.607 --> 00:02:28.767
Intelligenz gibt, ein bisschen zu beleuchten.

00:02:28.767 --> 00:02:33.287
Und der Niklas hat sich da aufgemacht und ein ziemlich langes Skript zusammengestellt,

00:02:33.447 --> 00:02:39.027
um uns mal Gedankenanstöße oder Impulse für die heutige Diskussion zu geben.

00:02:39.287 --> 00:02:41.847
Ich bin sehr, sehr gespannt, Niklas, was du vorbereitet hast.

00:02:41.927 --> 00:02:42.987
Denn hier auch der Disclaimer.

00:02:43.447 --> 00:02:47.787
Unser Vorgespräch war gerade ungefähr drei Minuten lang und wir haben abgesprochen,

00:02:47.987 --> 00:02:50.347
dass ich die Anmod mache.

00:02:50.507 --> 00:02:53.587
Das mache ich hier mit. Und alles Weitere schauen wir jetzt.

00:02:53.667 --> 00:02:56.707
Niklas, was hast du mitgebracht? Ja, danke erstmal für die Anmod.

00:02:57.147 --> 00:03:00.507
Was habe ich mitgebracht? Ein gigantisch volles Skript.

00:03:02.027 --> 00:03:06.327
Wenn man sich so auf die Suche macht nach dem Thema KI, Risiken und Kritik an

00:03:06.327 --> 00:03:10.727
KI, dann wird man ja wirklich sehr schnell fündig. Da habe ich mich so ein bisschen

00:03:10.727 --> 00:03:16.687
gefragt, gibt es da draußen irgendwie sowas für eine allgemeine Skepsis an KI oder was ist da los?

00:03:17.207 --> 00:03:21.627
Wir waren doch erst so motiviert und irgendwie so voller, nicht Hoffnung,

00:03:21.727 --> 00:03:24.987
aber zumindest so beeindruckt von dem, was da so auf den Markt geschmissen worden

00:03:24.987 --> 00:03:28.447
ist die letzten Jahre und wir sich auch nicht nur Consumer-Verhalten,

00:03:28.567 --> 00:03:29.467
sondern auch irgendwie...

00:03:30.611 --> 00:03:34.891
Das Arbeitsverhalten auch verändert hat mithilfe von Large Language Models wie

00:03:34.891 --> 00:03:36.311
beispielsweise Chat-GPT.

00:03:36.911 --> 00:03:39.271
Und da haben ja auch Kritiken nicht lange auf sich warten lassen.

00:03:39.831 --> 00:03:41.831
Und ich kann mich daran erinnern, als

00:03:41.831 --> 00:03:45.211
wir angefangen haben mit dem Götterkomplex-Podcast, da kam das so gerade,

00:03:45.511 --> 00:03:49.131
dass man sich damit auseinandergesetzt hat, huch, also eigentlich das,

00:03:49.211 --> 00:03:53.671
was wir als Science Fiction sehen, das ist auf einmal da und unterstützt uns.

00:03:55.371 --> 00:03:58.771
Ich weiß nicht, wie es euch da ging, aber ich hatte schon trotzdem irgendwie

00:03:58.771 --> 00:04:04.331
ein mulmiges Gefühl bei der Sache, das mich dann bis heute auch irgendwie nicht losgelassen hat.

00:04:04.371 --> 00:04:08.131
Wie ging es euch denn dabei? Also ich kann sagen, ich habe so eine ähnliche

00:04:08.131 --> 00:04:12.771
Reise gehabt, dass ich in den Recherchen auch immer so ein bisschen gedacht habe, so boah,

00:04:13.431 --> 00:04:18.471
krass, was ist alles möglich und auch in diesem, ja in dem selber ausprobieren

00:04:18.471 --> 00:04:23.251
mit Chat-GPT oder mit KI, mit Journey, diese bildgenerierende KI,

00:04:23.471 --> 00:04:27.751
dass man immer erst so einen Moment hatte, boah krass, das ist möglich, das ist ja Wahnsinn.

00:04:28.491 --> 00:04:34.151
Das ist bei mir aber gewichen. Also je mehr ich mich mit dem Thema beschäftigt

00:04:34.151 --> 00:04:37.691
habe, umso mehr habe ich mich auch damit beschäftigt, was eben nicht möglich ist.

00:04:37.891 --> 00:04:43.371
Und du hast es gesagt, es nimmt Einzug in die Arbeitswelt und ich bin davon

00:04:43.371 --> 00:04:46.211
überzeugt, dass man die Arbeitswelt in Zukunft neu denken muss.

00:04:46.211 --> 00:04:49.271
Und da hatten wir auch schon viele Impulse und es gibt ganz,

00:04:49.411 --> 00:04:51.731
ganz klar, ganz berechtigte Ängste,

00:04:52.011 --> 00:04:57.791
dass sich gewisse Dinge halt im Arbeitsmarkt so verschieben,

00:04:57.891 --> 00:05:02.991
dass wirklich die KI auch mit Sicherheit gewisse Sachen ersetzen kann.

00:05:03.471 --> 00:05:07.731
Ich hatte jetzt ja auch einmal zitiert in meinen Folgen in der Recherche auch

00:05:07.731 --> 00:05:10.931
die Aussage, wenn ihr Beruf irgendwas mit Sprache zu tun hat,

00:05:11.011 --> 00:05:13.951
dann kann das auch ein Large Language Model irgendwann in Zukunft machen.

00:05:14.471 --> 00:05:19.631
Und ach so, Sprache lässt sich ja auch, naja, also wenn man Sprache simulieren

00:05:19.631 --> 00:05:23.011
kann, dann lassen sich auch andere Dinge simulieren und dann geht das immer weiter.

00:05:23.431 --> 00:05:26.591
Also es ist hochaktuell, ich verstehe auch diese Ängste.

00:05:27.271 --> 00:05:30.531
Ich bin jetzt ein bisschen frech und sage,

00:05:30.871 --> 00:05:35.211
das ist aber auch in der Historie eigentlich immer so,

00:05:35.491 --> 00:05:42.131
dass Dinge neu erfunden werden, Dinge ersetzen, Jobs und neue Jobs werden dazukommen

00:05:42.131 --> 00:05:48.911
und ja, man wird die Arbeitswelt neu an diese Dinge anpassen müssen, auf jeden Fall.

00:05:48.911 --> 00:05:54.891
Aber diese große Angst vor der mächtigen KI im Sinne jetzt von Science-Wiction-Dystopien

00:05:54.891 --> 00:05:57.731
und diesen ganzen, sag ich mal, oh Gott.

00:05:58.531 --> 00:06:02.851
Wird uns die KI in Zukunft als Feind sehen und uns vernichten und all diese

00:06:02.851 --> 00:06:05.571
Bewusstseinstheorien und so weiter und so fort.

00:06:05.571 --> 00:06:09.851
Selbst wenn sie zum Teil technisch möglich sind, bin ich da aber sehr,

00:06:10.051 --> 00:06:15.711
sehr, sehr optimistisch und gar nicht so, hab da gar nicht so diese krassen,

00:06:15.871 --> 00:06:17.171
bösen Szenarien im Kopf.

00:06:17.391 --> 00:06:21.411
Also das ist gewichen. Die Angst vor dem Arbeitsmarkt und all diese Sachen und

00:06:21.411 --> 00:06:23.351
Skepsis auf jeden Fall, das bleibt.

00:06:23.351 --> 00:06:28.111
Ich fand den Punkt, Orti, den du da an, du hast ein Wort benutzt,

00:06:28.651 --> 00:06:34.291
dass eine gewisse Skepsis bei allen historischen Veränderungen irgendwie da

00:06:34.291 --> 00:06:39.011
war oder spürbar in der Menschheit, in der Menschheitsgeschichte.

00:06:39.011 --> 00:06:42.551
Und ich glaube, das ist eher das vornehmliche Gefühl, gerade zu Beginn,

00:06:42.631 --> 00:06:47.231
Niklas, so das gefragt, wieso der erste Kontakt war eigentlich mit dieser KI,

00:06:47.351 --> 00:06:48.251
mit diesen neuen Möglichkeiten.

00:06:49.711 --> 00:06:53.871
Und ich hatte ein ganz interessantes Gefühl, was ich bislang in meinem Leben

00:06:53.871 --> 00:06:54.971
noch nicht so mega häufig hatte.

00:06:55.051 --> 00:06:57.871
Ich hatte echt irgendwie das Gefühl, dass wir an so einem historischen Punkt

00:06:57.871 --> 00:07:03.231
gerade sind. Dass also Dinge wahr werden, Dinge möglich werden,

00:07:03.331 --> 00:07:08.911
Dinge technisch möglich werden, die man sich wirklich vorher nur in der Science-Fiction

00:07:08.911 --> 00:07:09.931
irgendwie ausgedacht hat.

00:07:10.011 --> 00:07:13.171
Ich meine, wir sind alle keine Computer- oder künstliche Intelligenzexperten,

00:07:13.311 --> 00:07:15.631
die das vielleicht schon seit 30 Jahren auf dem Schirm haben,

00:07:15.731 --> 00:07:17.631
dass es sehr wohl in diese Richtung gehen kann.

00:07:18.011 --> 00:07:22.031
Das heißt, es kam für mich so ein bisschen wie Kai aus der Kiste und habe mich

00:07:22.031 --> 00:07:24.851
einfach irgendwie in so eine ganz seltsame Art von,

00:07:25.732 --> 00:07:30.232
Erstaunen gezogen, in so einen magischen Bann, in so ein,

00:07:30.892 --> 00:07:36.172
wow, das ist möglich, gleichsam aber natürlich auch irgendwo gepaart mit dem

00:07:36.172 --> 00:07:41.552
Wissen, hier passiert irgendwie was Größeres als irgendwie so eine Erfindung,

00:07:41.712 --> 00:07:43.312
die, naja, vielleicht auch wieder verpufft.

00:07:43.312 --> 00:07:47.192
Irgendwie hatte man schon oder hatte ich schon das Gefühl, das ist auch geblieben,

00:07:47.352 --> 00:07:50.972
dass das mehr ist als eine Erfindung, sondern dass wir hier eigentlich schon,

00:07:51.272 --> 00:07:57.692
oder es gibt ja auch Leute, die über eine industrielle Revolution sprechen oder das dem gleichsetzen.

00:07:58.632 --> 00:08:01.512
Ich kann das jetzt nicht widerlegen oder auch nicht bestätigen,

00:08:01.632 --> 00:08:04.892
aber ich könnte mir schon vorstellen, gefühlt geht es zumindest bei mir in diese

00:08:04.892 --> 00:08:08.472
Richtung, dass da wirklich was Epochales, Historisches passiert.

00:08:08.992 --> 00:08:12.572
Davon bin ich im Übrigen auch überzeugt. Also das, was du sagst,

00:08:12.712 --> 00:08:17.892
dieser Wendepunkt und dass wir gerade etwas, also an einem Punkt stehen,

00:08:18.012 --> 00:08:23.032
wo etwas komplett bahnbrechendes, neues Einzug hält, von dem wir nicht genau wissen,

00:08:23.732 --> 00:08:27.172
welche Auswirkungen das hat, das denke ich auch.

00:08:27.252 --> 00:08:30.772
Und ich denke auch, dass das eine Sache ist, die nicht mehr wegzudenken ist,

00:08:31.092 --> 00:08:34.632
von der wir, aber die ist so schlecht greifbar. Das ist so manchmal wie so ein

00:08:34.632 --> 00:08:35.592
interessantes Gimmick.

00:08:36.172 --> 00:08:38.292
Dann spielst du manchmal ein bisschen mit, dann denkst du, ach,

00:08:38.352 --> 00:08:41.552
das ist ja gerade beeindruckend, vielleicht nutzt du das mal an der einen oder

00:08:41.552 --> 00:08:47.412
anderen Stelle, dann legst du es wieder weg und man kann es so noch nicht wirklich

00:08:47.412 --> 00:08:50.772
einschätzen, was sind die jetzt wirklich die Folgen, was verändert das alles.

00:08:50.972 --> 00:08:56.252
Aber dass das passiert und dass wir an so einem Punkt sind, wo KI nicht mehr

00:08:56.252 --> 00:09:01.112
wegzudenken ist und irgendwie in den Alltag und auch in den beruflichen Alltag

00:09:01.112 --> 00:09:03.932
komplett Einzug halten wird, davon bin ich auch überzeugt, ja.

00:09:04.812 --> 00:09:08.212
Ja, vor allen Dingen auch in unser Privatleben. Das hat sich ja schon eingeschlichen.

00:09:08.572 --> 00:09:12.872
Also wenn ich jetzt überlege, wie ich arbeite, dann möchte ich auf meine Large

00:09:12.872 --> 00:09:14.832
Language Models ja irgendwie auch nicht mehr verzichten.

00:09:15.472 --> 00:09:20.572
Jetzt ist es aber so dass wenn man jetzt mal versucht mal so eine Stimmung abzufragen

00:09:20.572 --> 00:09:23.752
wie stehst du denn da eigentlich zu, heute ist passiert in einem Seminar,

00:09:23.872 --> 00:09:26.672
ich habe ein paar Schüler gefragt, wie steht ihr denn eigentlich zu dem Thema.

00:09:28.412 --> 00:09:32.012
Hat der Großteil ja doch irgendwie gesagt, doch irgendwie skeptisch also irgendwie

00:09:32.012 --> 00:09:36.412
macht mir das Angst, tatsächlich, das fand ich sehr sehr erstaunlich.

00:09:37.692 --> 00:09:41.652
Und da sind die auch nicht alleine, ich habe mal eine Schlagzeile gefunden in

00:09:41.652 --> 00:09:44.012
der Tagesschau-Redaktion das ist jetzt gar nicht so lange her,

00:09:45.015 --> 00:09:49.495
Die lautet wie folgt. Führende Experten warnen davor, die Risiken künstlicher

00:09:49.495 --> 00:09:50.775
Intelligenz zu unterschätzen.

00:09:51.055 --> 00:09:55.655
Sie bewerten die Gefahren durch KI ähnlich hoch wie bei Pandemien oder einem Atomkrieg.

00:09:55.795 --> 00:10:00.235
Das ist eine Stellungnahme gewesen, die ist, und das finde ich sehr interessant,

00:10:00.475 --> 00:10:04.795
auch unterschrieben worden vom Chef des Chat-GPT-Erfinders Open AI,

00:10:05.015 --> 00:10:08.355
nämlich Sam Oltman, aber auch andere wie zum Beispiel Bill Gates.

00:10:09.115 --> 00:10:13.615
Und ich finde, gerade bei diesen Menschen sollte man hellhörig werden.

00:10:13.795 --> 00:10:16.935
Und wenn man sich das mal durchliest, was die da zusammengetragen haben,

00:10:17.055 --> 00:10:22.115
unterschrieben haben, dann empfehlen die oder postulieren die sowas wie einen

00:10:22.115 --> 00:10:26.255
dringenden Handlungsbedarf zu einer Risikominderung.

00:10:26.255 --> 00:10:30.775
Die haben so vier Punkte aufgeführt, wovor sie konkret waren und das fand ich

00:10:30.775 --> 00:10:32.395
schon recht erstaunlich.

00:10:32.815 --> 00:10:37.795
Einmal die Gefahr der sogenannten Malicious Use, also der böswilligen Nutzung,

00:10:38.435 --> 00:10:41.415
sodass KI halt absichtlich für Schaden eingesetzt werden kann.

00:10:41.415 --> 00:10:46.375
Dann gibt es die Warnung vor dem sogenannten KI-Race, also KI-Renn, A-I-Race.

00:10:46.715 --> 00:10:51.755
Das ist ja irgendwie sowas wie ein Wettrüsten der KI-Entwickler,

00:10:51.975 --> 00:10:57.075
die halt zu Risiken führen kann, die wir gar nicht überschauen können zum jetzigen

00:10:57.075 --> 00:11:00.135
Zeitpunkt, zum Beispiel eine neue Form von Cyberkriegsführung unter anderem.

00:11:01.795 --> 00:11:05.495
Dann haben die außerdem gewarnt vor sogenannten organisatorischen Risiken.

00:11:05.655 --> 00:11:08.915
Das heißt, selbst wenn mit guter Absicht etwas entwickelt wird,

00:11:09.475 --> 00:11:13.095
kann es im Use Case ja trotzdem noch zu Unfällen kommen.

00:11:14.038 --> 00:11:19.438
Und dann haben wir als letztes die Warnung vor sogenannten Rook-AIs.

00:11:20.098 --> 00:11:24.658
Das sind die sogenannten abtrünnigen KIs. Das heißt nicht, dass eine KI jetzt

00:11:24.658 --> 00:11:30.618
loszieht und irgendwas kaputt macht, sondern es geht eigentlich eher darum,

00:11:30.718 --> 00:11:32.818
dass man schon wirklich aufhorchen, finde ich.

00:11:34.118 --> 00:11:37.158
Ich finde das also super spannend. Ich glaube auch jeder Punkt von dem,

00:11:37.238 --> 00:11:41.498
den du da vorstellst, der ist absolut legitim und wir sind jetzt in einer Situation,

00:11:41.818 --> 00:11:47.738
wo diese Dinge wirklich besprochen werden müssen und auch wirklich durchdacht werden müssen.

00:11:47.738 --> 00:11:51.898
Da ist ja auch immer diese Debatte, die EU hat ja schon angefangen Richtlinien

00:11:51.898 --> 00:11:57.438
zu entwerfen und auch gewisse KIs zu stoppen oder die Anwendung von KIs zu stoppen.

00:11:57.878 --> 00:12:02.498
Andere Länder machen das nicht. Ich bin auch immer so ein bisschen frech und

00:12:02.498 --> 00:12:08.298
sage natürlich sagen die das, weil das natürlich auch ein unglaublich guter Werbesprech ist.

00:12:08.298 --> 00:12:12.298
Und jetzt hat ja auch der Chef von ChatGPT gesagt, ja, wir wissen,

00:12:12.378 --> 00:12:16.958
wie man Superintelligenz bauen und entwickeln kann.

00:12:17.398 --> 00:12:21.378
Das ist, also ich bin, du hast auf jeden Fall einen Punkt und ich finde,

00:12:21.378 --> 00:12:26.378
alle Punkte haben eine Daseinsberechtigung, aber dass genau diese Leute davor

00:12:26.378 --> 00:12:28.058
warnen, macht das Thema so interessant.

00:12:28.058 --> 00:12:32.478
Und die gesellschaftliche Debatte, die ist dann richtig angefeuert und wenn

00:12:32.478 --> 00:12:35.138
man dann noch sagt, wir haben übrigens die super Intelligenz von morgen,

00:12:35.718 --> 00:12:40.278
und alle wollen nämlich eben mitrüsten, das was du da angesprochen hast,

00:12:40.298 --> 00:12:45.458
das Wettrüsten von KI, dann möchte ich natürlich der große Big Player sein,

00:12:45.558 --> 00:12:50.218
der im AI-Business unterwegs ist und mir fällt immer mehr auf,

00:12:51.278 --> 00:12:54.938
dass ich dann schon auch manchmal denke, okay ähm.

00:12:56.286 --> 00:13:00.526
Man muss das durchdenken auf jeden Fall, diese Risiken muss man vernünftig an

00:13:00.526 --> 00:13:07.066
der Stelle von den wirklichen Experten diskutieren und die Frage ist,

00:13:07.126 --> 00:13:11.426
ob das dann wirklich gemacht wird und ob sich die Firmen auch darauf einlassen, diese Regeln,

00:13:11.646 --> 00:13:14.106
wenn es denn dann welche gibt, wenn sie entwickelt werden,

00:13:14.526 --> 00:13:18.066
ob man sie denn einhalten will oder ob man sagt, das macht uns doch den Markt kaputt.

00:13:18.066 --> 00:13:22.886
Und das finde ich ist eben sehr, sehr, sehr spannend, auch an diesem ganzen Rennen,

00:13:23.106 --> 00:13:27.646
weil Philipp ja auch diesen Wendepunkt angesprochen hat, denn das sind Voraussetzungen,

00:13:27.706 --> 00:13:33.026
dass wir uns jetzt darum kümmern, dass solche krassen Entwicklungen,

00:13:33.146 --> 00:13:35.786
die man nicht mehr kontrollieren kann, dass sie gar nicht erst passieren.

00:13:37.386 --> 00:13:41.886
Ja, wenn man sich auch mal anschaut, wie Länder wie Deutschland darauf reagieren,

00:13:42.126 --> 00:13:47.926
muss man schon sagen, dass diese Sorge, die da transportiert worden ist,

00:13:48.246 --> 00:13:50.166
auf uns schon irgendwie übergeschwappt ist.

00:13:50.166 --> 00:13:54.866
Ne, also versucht er hierzulande nicht sowas wie eine Reglementierung zu machen,

00:13:55.306 --> 00:13:58.406
da verlässt man sich so ein bisschen auf die EU-Ebene, sondern es gibt,

00:13:59.046 --> 00:14:02.086
Handlungsempfehlungen, da ist zum Beispiel ganz weit vorne das Bundesamt für Sicherheit in der,

00:14:02.666 --> 00:14:06.906
Informationstechnik, die hat neulich erst wieder eine Publikation rausgehauen

00:14:06.906 --> 00:14:11.366
zu den Chancen und Risiken großer KI-Sprachmodelle das in deutscher und englischer

00:14:11.366 --> 00:14:14.446
Sprache, das ist so ein 36-seitiges Dokument, das habe ich im Übrigen mal in

00:14:14.446 --> 00:14:17.546
die Show Notes gepackt, dass ihr euch das mal durchlesen könnt, ähm.

00:14:19.647 --> 00:14:24.067
Das adressiert vornehmlich an Unternehmen und Behörden, die halt Large Language

00:14:24.067 --> 00:14:26.807
Models in ihre Arbeitsabläufe irgendwie integrieren möchten.

00:14:27.587 --> 00:14:31.507
Und ja, das kann man dann als Grundlage für eine Risikoanalyse nutzen.

00:14:31.667 --> 00:14:34.707
Das heißt, man versucht den Menschen schon irgendwie was in die Hand zu geben,

00:14:34.947 --> 00:14:39.767
wo man sagt, pass auf, wenn ihr da irgendwie in irgendeiner Form Zweifelsgruppel

00:14:39.767 --> 00:14:43.927
habt oder sonst was, hier haben wir Möglichkeiten und Handlungsempfehlungen.

00:14:43.927 --> 00:14:46.747
Auf der anderen Seite geben wir das auch den Menschen an die Hand,

00:14:46.967 --> 00:14:50.507
die sich vielleicht darüber auch noch nicht so viele Gedanken gemacht haben.

00:14:50.927 --> 00:14:56.627
Was ich da sehr interessant finde, ist, wenn man das vergleicht mit der Wahrnehmung

00:14:56.627 --> 00:15:01.467
von Large Language Models und allgemein künstlicher Intelligenz im öffentlichen Raum,

00:15:02.187 --> 00:15:07.947
wird schon klar, dass es doch vielleicht eher darum gehen kann zu beruhigen.

00:15:07.947 --> 00:15:14.027
Denn ich habe jetzt relativ aktuelle Zahlen bekommen von dem Statistica Research Department.

00:15:14.167 --> 00:15:16.227
Die Zahlen sind vom 9.1.2025.

00:15:17.187 --> 00:15:22.667
Und da sieht es gerade so aus in Deutschland, dass laut der im letzten Jahr

00:15:22.667 --> 00:15:28.847
erstellten Umfrage 24 Prozent der befragten KI für eine potenzielle Gefahr halten.

00:15:29.747 --> 00:15:35.587
Und das ist so ein bisschen widersprüchlich zu dem, wie ich den Use Case von

00:15:35.587 --> 00:15:38.527
KI und auch irgendwie die Position zu KI irgendwie wahrnehme.

00:15:39.047 --> 00:15:43.007
Wenn ich nachfrage, bekomme ich ein gegenteiliges Bild. Wir benutzen es zwar,

00:15:43.187 --> 00:15:46.587
aber anscheinend gibt es dort eine sehr gesunde Skepsis in unserem Land.

00:15:46.767 --> 00:15:49.807
Und das fand ich sehr beeindruckend. Genau, das wollte ich tatsächlich fragen,

00:15:50.047 --> 00:15:53.687
wer hat denn teilgenommen an der Umfrage? Also wird das in Deutschland durchgeführt?

00:15:54.127 --> 00:15:57.447
Das ist in Deutschland durchgeführt worden, ja. Und diese, also ich fand das

00:15:57.447 --> 00:16:00.467
interessant, du hast ja gesagt, ich habe die Schüler gefragt und du hast jetzt

00:16:00.467 --> 00:16:03.887
gesagt, die haben, sehen das als Gefahr, ähm.

00:16:04.703 --> 00:16:06.923
Jetzt finde ich, müsste man das ein bisschen differenzieren.

00:16:06.983 --> 00:16:10.483
Das ist ja relativ platt zu sagen, ich sehe das als Gefahr.

00:16:11.523 --> 00:16:16.023
Denn ich verstehe sehr wohl, dass man sagt, ich sehe das als Gefahr für meinen Arbeitsmarkt.

00:16:16.163 --> 00:16:18.623
Philipp hat ja auch schon mal so Sachen angesprochen. Ey, ich bin jetzt hier

00:16:18.623 --> 00:16:22.563
im Medienbusiness und jetzt kann die KI Bilder zum Beispiel generieren,

00:16:22.563 --> 00:16:25.163
ich verliere meinen Job oder ich bin Schreiberling für irgendwas.

00:16:25.443 --> 00:16:29.543
So eine Scheiße, davor habe ich Angst. Oder ist es eben die Angst vor den Aspekten,

00:16:29.603 --> 00:16:34.103
die du angesprochen hast, von dieser Unkontrollierbarkeit, von dem Missbrauch

00:16:34.103 --> 00:16:38.223
von KI, weil das ja, ich sag mal, das ist ja die Frage,

00:16:38.783 --> 00:16:43.603
wie in unserer Gesellschaft KI-Akzeptanz entstehen kann, wenn ich einen Use

00:16:43.603 --> 00:16:47.263
Case sehe und sage, ey, das ist cool, das bringt mir was, ich nutze das gerne.

00:16:47.263 --> 00:16:51.183
Oder ich wirklich Angst vor Kriegen habe, vor diesem Missbrauch,

00:16:51.303 --> 00:16:56.743
was ich sowieso in meinen privaten Diskussionen, wird ganz viel von diesem Deepfake-Missbrauch,

00:16:56.883 --> 00:17:01.923
dass also quasi die KI-Videos von etwas generiert, das so gar nicht stattgefunden

00:17:01.923 --> 00:17:05.443
hat, also eine Präsidentenrede fälscht oder vielleicht auch die Klassenkameradin

00:17:05.443 --> 00:17:07.763
den Klassenkameraden in der Situation darstellt,

00:17:08.343 --> 00:17:12.223
die unschön ist und man verbreitet das in den sozialen Medien.

00:17:12.223 --> 00:17:16.003
Das sind für mich so nahbare Sachen, wo ich sage, da habe ich direkt Angst vor.

00:17:16.403 --> 00:17:23.143
Und das andere Krieg und Entwicklungsmissbrauch von KI, das sind ja eher abstraktere Themen.

00:17:23.223 --> 00:17:27.743
Deswegen wäre ich einmal so frech und würde fragen, was war so das Meinungsbild

00:17:27.743 --> 00:17:31.603
der Schüler oder konntest du da in dieser Studie da etwas mehr differenzieren?

00:17:31.703 --> 00:17:36.683
Wovor haben die Leute Angst? Also ich habe die Studie, also den Link zu den

00:17:36.683 --> 00:17:39.223
Zahlen, habe ich euch natürlich in die Shownotes gepackt.

00:17:39.803 --> 00:17:44.823
Ich kann erstmal nur von heute berichten, weil ich das ein bisschen persönlicher

00:17:44.823 --> 00:17:47.483
und ein bisschen eindrucksvoller fand, denn ich habe auch nachgefragt,

00:17:47.663 --> 00:17:52.583
was findet ihr denn letztendlich da so komisch dran in der ganzen Geschichte.

00:17:53.983 --> 00:17:59.823
Und die sehr undifferenzierte Rückmeldung war, das ist mir irgendwie unheimlich.

00:17:59.983 --> 00:18:02.343
Ich weiß, ich schreibe mit einer Maschine und habe das Gefühl,

00:18:02.423 --> 00:18:03.463
dass ein Mensch vor mir sitzt.

00:18:03.723 --> 00:18:06.803
Da haben alle ganz eifrig genickt. Das muss man sagen, dass die Schülerinnen

00:18:06.803 --> 00:18:10.143
und Schüler, die waren so 16 Jahre alt ungefähr.

00:18:10.823 --> 00:18:15.503
Auf die Frage hin, ob sie denn Large Language Models wie ChatGPT benutzen,

00:18:15.643 --> 00:18:17.343
haben alle mit Ja geantwortet.

00:18:18.563 --> 00:18:23.423
Und auf die Frage, wie sie denn letztendlich oder woher diese Skepsis letztendlich

00:18:23.423 --> 00:18:26.223
kommt, war das subjektive Gefühl ganz weit vorne,

00:18:26.663 --> 00:18:30.823
also dieses komische Gefühl von, ich schreibe hier irgendwie mit einer Maschine

00:18:30.823 --> 00:18:34.603
und es fühlt sich so menschlich an, das finde ich irgendwie gruselig das ist Punkt Nummer 1,

00:18:35.537 --> 00:18:41.377
Aber das, was auch kam, war, ja, wir haben ja schon mit unseren Lehrern in verschiedenen

00:18:41.377 --> 00:18:46.077
Fächern über das Thema KI irgendwie gesprochen in ganz vielen Zusammenhängen.

00:18:46.157 --> 00:18:49.517
Und da ging es auch ganz oft anscheinend um das, was Orti gerade sagte,

00:18:50.077 --> 00:18:54.777
nämlich der Missbrauch von KI-Tools, die frei zugänglich sind,

00:18:54.957 --> 00:18:57.477
die mit Bild- und Videomaterial beispielsweise arbeiten.

00:18:59.017 --> 00:19:02.017
Diese Sensibilisierung ist natürlich notwendig, wenn man so ein bisschen im

00:19:02.017 --> 00:19:04.357
pädagogischen Bereich unterwegs ist, dann wissen wir auch,

00:19:04.897 --> 00:19:12.257
dass im Horizontalen letztendlich auch die sogenannte Medienkompetenz eine Kompetenz

00:19:12.257 --> 00:19:16.557
ist, die es zu vermitteln gilt und da spielt natürlich auch der Use Case KI

00:19:16.557 --> 00:19:17.757
mittlerweile eine große Rolle.

00:19:17.757 --> 00:19:22.497
Ja, aber da scheitern wir ja auf voller Linie schon bei sozialen Netzwerken

00:19:22.497 --> 00:19:25.757
und also ich sag mal, ich finde ja natürlich, da hast du recht,

00:19:25.917 --> 00:19:27.997
aber das ist so, wo ich denke, naja,

00:19:28.257 --> 00:19:35.557
aber dann hast du mal irgendwie zwei, drei Stunden soziale Medienkritik und dann sagt man Achtung,

00:19:35.637 --> 00:19:39.057
das und das postet man auf Facebook aber nicht und dann war es das,

00:19:39.137 --> 00:19:43.857
also so richtig kompetent bilden wir ja gar niemanden aus und die Schulen würde

00:19:43.857 --> 00:19:46.077
ich jetzt mal mutmaßen. auch nicht dementsprechend ausgebildet sind.

00:19:46.237 --> 00:19:49.637
Da kann ich euch noch andere Geschichten erzählen. Da sind wir total hinterher.

00:19:49.817 --> 00:19:54.457
Aber trotzdem findet die Diskussion im Klassenzimmer statt und das finde ich erstmal in Ordnung.

00:19:54.697 --> 00:19:57.797
Das ist ja gut so, auf jeden Fall. Von meiner Warte aus. Wir befinden uns ja

00:19:57.797 --> 00:19:59.217
nun mal aktuell im Wahlkampf.

00:19:59.837 --> 00:20:03.697
Das bedeutet, wir stehen kurz vor vorgezogenen Neuwahlen in Deutschland.

00:20:04.517 --> 00:20:09.237
Vor diesem Prozess dann auch genau für das Thema Deepfakes zu sensibilisieren,

00:20:09.377 --> 00:20:14.417
die ermöglicht werden können durch KI-Tools, die auf Large Language Models basieren,

00:20:14.617 --> 00:20:18.757
ist auch nicht der falsche Weg. Und jetzt mal zurück zum Thema zu kommen.

00:20:19.097 --> 00:20:25.037
Ich betrachte aber genau solche Diskussionen auch als Mit- Hauptverantwortungsträger

00:20:25.037 --> 00:20:29.717
für eine Skepsis, die es anscheinend hierzulande gegenüber von KI gibt oder gegenüber KI gibt.

00:20:30.177 --> 00:20:35.737
Was ja erstmal von meiner persönlichen Warte aus auch erstmal völlig in Ordnung ist.

00:20:35.837 --> 00:20:41.257
Ich rutsche die ganze Zeit hier schon auf den Stuhl rum, weil ich da zu diesem

00:20:41.257 --> 00:20:45.577
Deepfake-Ding glaube ich, das schließt sich gerade So ein bisschen der Kreis.

00:20:45.697 --> 00:20:50.777
Wir haben in der letzten Folge darüber gesprochen, wie eine weitergehende KI-Entwicklung

00:20:50.777 --> 00:20:55.257
aussehen könnte, insbesondere auch im medialen Bereich oder im Kulturbereich.

00:20:55.417 --> 00:21:00.157
Und da haben wir gesagt, dass uns immer diese immer gleichen oder sehr ähnlichen

00:21:00.157 --> 00:21:04.177
KI-Vorgekauten Inhalte eventuell auch langweilen können.

00:21:04.177 --> 00:21:10.677
Und dass es so eine Rückbesinnung auf tatsächlich zum Beispiel Theater oder

00:21:10.677 --> 00:21:12.957
also Mensch-Mensch-Interaktion kommt.

00:21:13.177 --> 00:21:18.977
Was ich ganz interessant finde bei dieser ganzen Deepfake-Diskussion ist ja

00:21:18.977 --> 00:21:24.077
im Endeffekt, dass man keinem Bild mehr trauen kann und keinen Videoaufzeichnung

00:21:24.077 --> 00:21:26.497
mehr trauen kann. Der Witz ist...

00:21:27.264 --> 00:21:33.024
Wir konnten das und hätten das niemals gedurft. Und wir konnten das auch noch nie.

00:21:33.964 --> 00:21:40.944
Also selbst das erste, also ein Foto, also ein doofes Foto ist immer aus der

00:21:40.944 --> 00:21:45.404
Sicht des Fotografens und der vielleicht den Ausschnitt komponiert. Da fängt es an.

00:21:46.164 --> 00:21:50.524
Fotoretuschen sind so alt wie die Fotografie selber. Und ich will damit sagen,

00:21:50.624 --> 00:21:53.184
wir haben vor Fotografie und vor

00:21:53.184 --> 00:21:58.324
Videoaufnahmen haben Menschen Zeitungen konsumiert. Da saß ein Redakteur.

00:21:58.704 --> 00:22:01.824
Der Mensch war nicht bei dem Ereignis dabei und er hat auch nur,

00:22:01.964 --> 00:22:05.364
der im Idealfall, also der, sagen wir mal, der normale Arbeiter zum Beispiel,

00:22:05.784 --> 00:22:07.584
hat ja nur eine Zeitung konsumiert.

00:22:07.664 --> 00:22:12.644
Das heißt, er hat den Sachverhalt, um den es hier ging, nur von einem Redakteur

00:22:12.644 --> 00:22:14.704
in schriftlicher Form gelesen.

00:22:14.704 --> 00:22:20.024
Was ich damit sagen will, ist, ich glaube, dass sich unsere Gesellschaft wieder

00:22:20.024 --> 00:22:25.544
daran gewöhnen muss oder noch stärker sozusagen wieder darauf zurückbesinnen

00:22:25.544 --> 00:22:28.544
muss, dass es hier eine Vertrauensfrage ist.

00:22:28.684 --> 00:22:33.004
Wer ist der Absender der Botschaft und, glaube ich, diesen Inhalt?

00:22:33.004 --> 00:22:37.624
Und ich halte das für wirklich zentral, dass wir wirklich keinem Bild,

00:22:37.984 --> 00:22:40.744
keinem Video oder irgendwas mehr vertrauen.

00:22:40.844 --> 00:22:43.984
Das ist ja überall möglich und vor allem es war immer schon möglich,

00:22:44.144 --> 00:22:48.444
das Video, das Bildmaterial so zu bearbeiten, wie es der Absender gerade wollte.

00:22:48.444 --> 00:22:51.424
Und sind wir mal ganz ehrlich, also ich finde das mega spannend,

00:22:51.544 --> 00:22:55.204
weil es gibt so, weil ich hatte auch jetzt ein langes persönliches Gespräch

00:22:55.204 --> 00:22:58.464
auch mit einer sehr, sehr guten ehemaligen Kollegin,

00:22:58.604 --> 00:23:00.904
die auch gesagt hat, die auch diese Skepsis hat und die auch sagt,

00:23:00.984 --> 00:23:04.624
boah, diese Deepfake-Sachen und so, das macht mir alles Sorgen und ich habe

00:23:04.624 --> 00:23:06.444
auch ein bisschen argumentiert und habe gesagt, naja,

00:23:06.624 --> 00:23:13.044
aber zum Beispiel falsche Berichterstattung oder Propaganda oder Dinge in einem

00:23:13.044 --> 00:23:14.324
anderen Kontext setzen.

00:23:15.044 --> 00:23:18.024
Fotoretuschen und so weiter und so fort, das gibt es schon lange.

00:23:18.024 --> 00:23:19.944
Das ist ein anderes Medium, ist klar.

00:23:20.144 --> 00:23:23.724
Und das ist auch ein Medium, wo man sagen kann, ich kann echt und unecht nicht

00:23:23.724 --> 00:23:24.924
voneinander unterscheiden.

00:23:25.104 --> 00:23:31.004
Aber das ist genau das, wo ich denke, das ist in dem Kontext super wichtig zu

00:23:31.004 --> 00:23:32.684
wissen, was sind meine Quellen.

00:23:33.344 --> 00:23:36.884
Diese Kritik zu hinterfragen, ist das echt, ist das nicht echt.

00:23:37.444 --> 00:23:40.544
Und das passiert ja jetzt auch schon ohne diese ganzen Deepfakes,

00:23:40.624 --> 00:23:44.944
wie viele Berichte werden gefaked und so weiter und so fort werden in den sozialen

00:23:44.944 --> 00:23:50.404
Medien geteilt, das ist für mich nicht immer ein Phänomen, das ist ein Phänomen

00:23:50.404 --> 00:23:52.184
des Menschen das ist so wie.

00:23:53.262 --> 00:23:57.102
Auch Mobbing, Mobbing hat eine andere, hat jetzt andere Möglichkeiten,

00:23:57.482 --> 00:24:01.442
das moderner umzusetzen, aber das hat es früher auch schon gegeben und es war

00:24:01.442 --> 00:24:02.462
früher genauso schlimm, wie

00:24:02.462 --> 00:24:05.442
es heute ist und es muss auch, natürlich muss dagegen was gemacht werden.

00:24:05.442 --> 00:24:09.322
Ich möchte auch noch mal in aller Deutlichkeit Lob an alle engagierten Lehrer

00:24:09.322 --> 00:24:13.042
aussprechen, die das wirklich in ihrem Unterricht bearbeiten.

00:24:13.122 --> 00:24:15.542
Ich sage nur, weil ich mich gerade so kritisch geäußert habe,

00:24:15.562 --> 00:24:19.822
das möchte ich gar nicht so böse sagen, es ist nur so ein bisschen auch meine

00:24:19.822 --> 00:24:24.082
Erfahrung, dass Deutschland immer, sag ich mal, zehn Jahre zurückhängt in dem,

00:24:24.202 --> 00:24:25.842
was man wirklich jetzt tun müsste,

00:24:26.002 --> 00:24:34.102
um 16-jährigen Jugendlichen wirklich eine Medienkritik, eine Informationskritik aneignen zu können.

00:24:34.102 --> 00:24:37.902
Und dafür muss ein ganz anderer Lehrplan her. Das ist aber vielleicht nochmal ein ganz anderes Thema.

00:24:38.802 --> 00:24:41.902
Nur, genau, also die Debatte brauchen wir auch nicht führen.

00:24:42.062 --> 00:24:46.602
Nur ich wollte mich da so ein bisschen wieder zurückhalten und es gibt super engagierte Lehrer.

00:24:46.922 --> 00:24:52.402
Nur das Ding ist halt eben, ja, das Medium ist ein anderes oder das Mittel ist

00:24:52.402 --> 00:24:53.582
ein anderes, aber das hat es schon

00:24:53.582 --> 00:24:57.202
immer gegeben und KI gibt uns neue Möglichkeiten, das Gleiche zu tun.

00:24:57.382 --> 00:25:03.982
Falsch Informationen zu streuen oder Missbrauch mit Videos und sonst irgendetwas zu betreiben.

00:25:04.682 --> 00:25:06.362
Es ist aber kein neues Phänomen.

00:25:07.422 --> 00:25:10.702
Ganz genau. Ich möchte da vielleicht eine Sache ergänzend noch zu sagen,

00:25:10.802 --> 00:25:12.902
weil wir gerade mal kurz bei diesem Schulthema gewesen sind.

00:25:13.002 --> 00:25:15.282
Und das geht jetzt mal kurz an die Hörerinnen und Hörer da draußen.

00:25:15.362 --> 00:25:19.902
Wenn ihr mal Bock habt, euch zum Thema Deepfake und Fake News zu informieren.

00:25:20.262 --> 00:25:25.842
Die Kultusministerkonferenz und die Bildungsministerien der Länder haben eine Webseite.

00:25:25.942 --> 00:25:30.602
Und auf diesen Webseiten kann man sich Infomaterial und Schulungsmaterial umsonst

00:25:30.602 --> 00:25:34.442
zu diesen Themen herunterlagen. Und die sind wirklich gut aufgearbeitet.

00:25:34.562 --> 00:25:38.322
Das heißt, wenn es da wirklich mal Interesse gibt, ein bisschen tiefer in dieses

00:25:38.322 --> 00:25:41.662
Thema einzutauchen, dann sei hier mal der Hinweis gestattet,

00:25:41.862 --> 00:25:45.222
dass man sich dort informieren kann und entsprechendes Material bekommen kann.

00:25:45.222 --> 00:25:48.642
Glaubt ihr denn, wenn wir bei diesem spannenden Thema sind und mal einmal den

00:25:48.642 --> 00:25:50.282
Science-Fiction-Motor anschmeißen?

00:25:51.002 --> 00:25:55.042
Philipp hat einmal argumentiert in der letzten Folge, man ist es irgendwann

00:25:55.042 --> 00:25:56.902
leid und man wird unsicher.

00:25:57.002 --> 00:26:00.762
Wir haben gerade darüber gesprochen, ich weiß irgendwann nicht mehr, was die Realität ist.

00:26:00.862 --> 00:26:05.582
Es gibt so viel Content, so viel Material und ich als Mensch oder ich als Gesellschaft,

00:26:05.802 --> 00:26:10.142
ich als Gesellschaft, ja genau, wir als Gesellschaft sind unsicher.

00:26:10.763 --> 00:26:16.843
Ähm, sorry. Also wir als Gesellschaft, wir sind so verunsichert in diesem ganzen

00:26:16.843 --> 00:26:20.503
Wulst, weil wir weder den, sag ich mal, öffentlichen, rechtlichen,

00:26:20.703 --> 00:26:21.923
noch den sozialen Medien,

00:26:22.163 --> 00:26:25.543
noch unseren Nachbarn und so weiter trauen und unsere Türen zumachen,

00:26:25.723 --> 00:26:29.103
weil wir nicht mehr trennen können, was wirklich ist und was nicht wirklich

00:26:29.103 --> 00:26:34.543
ist in diesen sozialen Netzen und was auch immer, was im Netz alles kursiert.

00:26:35.123 --> 00:26:38.803
Glaubt ihr denn, dass es möglich ist, dass eine Gesellschaft,

00:26:39.183 --> 00:26:42.203
das war so meine Argumentation, dass man vielleicht irgendwann sagt,

00:26:42.403 --> 00:26:45.003
wir haben ja auch über Reglementierung gesprochen, dass man sagt,

00:26:45.103 --> 00:26:48.403
solche Sachen müssen ein Wasserzeichen bekommen. Jetzt mal so ganz blöd.

00:26:48.903 --> 00:26:56.243
Also quasi, dass ein Video, ein Deepfake-Video als Deepfake-Video gekennzeichnet werden muss.

00:26:56.323 --> 00:27:01.683
Hier handelt es sich um digitalen AI-Content, künstlich generierten Content.

00:27:02.183 --> 00:27:05.303
Glaubt ihr, dass man sowas durchsetzen kann? Natürlich wird es da auch Missbrauch

00:27:05.303 --> 00:27:08.903
geben und es wird auch versucht, dann solche Wasserzeichen zu entfernen und, und, und.

00:27:09.343 --> 00:27:14.423
Aber dass man generell sagt, okay, das ist, es wird so reglementiert,

00:27:14.543 --> 00:27:18.023
dass man sowas reinsetzt und man sagt, okay, ich erkenne. Ich glaube,

00:27:18.183 --> 00:27:20.223
technisch müsste es, wenn, andersrum laufen.

00:27:21.043 --> 00:27:26.263
Also technisch müsste es eher so sein, dass Bilder, die unbearbeitet sind oder

00:27:26.263 --> 00:27:31.063
die eine gewisse oder nicht KI generiert sind, dass die eher ein Gütesiegel

00:27:31.063 --> 00:27:32.223
bekommen müssen. Zum Beispiel.

00:27:32.503 --> 00:27:36.603
Das ist hier Proven, Re-Content, keine Ahnung.

00:27:37.003 --> 00:27:39.583
Wobei da auch die Frage ist, zählen da auch Filter?

00:27:40.543 --> 00:27:44.203
Zählt da auch eine Photoshop-Bearbeitung? Jedes Bild, was man sieht,

00:27:44.323 --> 00:27:45.543
ist in irgendeiner Form bearbeitet?

00:27:45.543 --> 00:27:50.723
Da könnte man ja Kriterien sagen, es gibt jetzt zehn Güte-Kriterien und dann

00:27:50.723 --> 00:27:54.563
kriegt dieses Siegel in Anführungsstrichen, das ist ein echtes Video,

00:27:54.863 --> 00:27:56.123
eine echte Aufzeichnung.

00:27:56.223 --> 00:27:59.463
Ich persönlich glaube, dass das nicht funktioniert, weil ich glaube,

00:27:59.563 --> 00:28:02.503
der Aufwand ist viel zu groß und die Anfälligkeit ist zu groß,

00:28:02.603 --> 00:28:08.423
dass es tatsächlich gehackt werden kann oder gehackt werden wird.

00:28:08.423 --> 00:28:15.003
Ich könnte mir eher so etwas, einen eher unreglementierten.

00:28:15.803 --> 00:28:20.063
Stillschweigenden gesellschaftlichen Konsens vorstellen, nämlich,

00:28:20.543 --> 00:28:26.963
dass es etablierte Medienhäuser gibt, etablierte Publizisten gibt,

00:28:27.183 --> 00:28:29.003
die ihre Aufgabe machen.

00:28:29.677 --> 00:28:34.797
Nachkommen, nämlich Informationen zu sammeln, Informationen zu trennen nach

00:28:34.797 --> 00:28:39.477
wahr, nach unwahr, nach fake, nach nicht fake, Informationen zu sortieren und

00:28:39.477 --> 00:28:41.437
die in einem Thema aufzubereiten.

00:28:41.677 --> 00:28:46.957
Also sprich klassischer Journalismus. Ich glaube, dass es tatsächlich Institutionen

00:28:46.957 --> 00:28:51.137
heute bereits gibt und die wird es auch wahrscheinlich weitergeben.

00:28:51.217 --> 00:28:54.037
Also ich glaube, das ist im Grunde eine Vertrauensfrage.

00:28:54.677 --> 00:28:58.417
Wie ist es auch nach wie vor. Ja, also weil ich glaube zum Beispiel einfach

00:28:58.417 --> 00:28:59.757
erstmal schlicht meiner Frau,

00:29:00.337 --> 00:29:02.897
wenn sie mir, weil du gerade dachtest, du hast es ja weiter runtergebrochen,

00:29:03.017 --> 00:29:06.257
bis in den Nachbarn rein, bis in die Familie rein und ich glaube zum Beispiel erstmal per se,

00:29:06.517 --> 00:29:09.417
wenn meine Frau irgendwas auf der Straße sieht, davon ein Foto machen und mir

00:29:09.417 --> 00:29:12.137
das schickt, glaube ich erstmal, dass das definitiv unbearbeitet ist,

00:29:12.237 --> 00:29:16.977
weil das halt von meiner Frau kommt und das ist halt ein Ein-Uhr-Vertrauen und ich glaube auch,

00:29:17.557 --> 00:29:22.197
dass wir für uns Medienhäuser eben definieren und da gebe ich dir recht,

00:29:22.277 --> 00:29:25.577
diese Medienhäuser, die müssen strengen Regularien unterliegen,

00:29:25.677 --> 00:29:30.817
also da muss es wirklich klar sein, dass es journalistische.

00:29:33.377 --> 00:29:38.177
Werte gibt. Es ist einfach wirklich journalistische Werte, eine Recherchepflicht und so weiter.

00:29:38.317 --> 00:29:42.477
Das muss hochgehalten werden, sodass wir hier grundsätzlich über Vertrauen reden.

00:29:42.577 --> 00:29:45.577
Ich möchte halt einfach nochmal an die Zeitungen erinnern, die auch ein gewisses

00:29:45.577 --> 00:29:46.977
Vertrauen genossen haben.

00:29:47.117 --> 00:29:50.097
Gerade zu Zeiten, wo es noch keine Bilder gab und noch keine Bewegtbilder und

00:29:50.097 --> 00:29:53.317
Tonaufnahmen gab, sondern wo es einfach nur diese Zeitungen gab und wo eine

00:29:53.317 --> 00:29:55.397
Rede von irgendeinem Politiker abgedruckt wurde,

00:29:56.477 --> 00:30:00.577
Es wäre ja ein einfaches gewesen, diese Rede zu kürzen, zu verdrehen oder einen

00:30:00.577 --> 00:30:03.617
anderen Software hinzuschreiben, aber das gab es halt nicht.

00:30:03.797 --> 00:30:05.897
Und deswegen glaube ich das so.

00:30:07.017 --> 00:30:09.977
Naja, es gibt ja auch sowas wie einen Kodex bei Journalisten.

00:30:12.097 --> 00:30:18.277
Eine Selbstregulierung in irgendeiner Form, das schon dafür sorgt oder eigentlich

00:30:18.277 --> 00:30:24.137
dafür sorgen soll, dass man versucht, Quellen in irgendeiner Form zu verifizieren,

00:30:24.197 --> 00:30:25.397
denen nachzugehen und so weiter.

00:30:25.397 --> 00:30:31.497
Also ich finde den Gedanken von Philipp erstmal gut, dass solange es irgendwie

00:30:31.497 --> 00:30:36.257
in irgendeiner Form Journalismus gibt, der sich selbst verpflichtet ist oder

00:30:36.257 --> 00:30:39.777
auch den Menschen, denen sie Nachrichten zukommen lassen,

00:30:40.017 --> 00:30:44.977
dass wir dann doch die Chance haben zu erfahren, ob etwas in Ordnung ist oder nicht.

00:30:45.137 --> 00:30:49.537
Also das Thema Vertrauen spielt eine ganz große Rolle. Das macht ja auch viel

00:30:49.537 --> 00:30:53.537
für unsere Science-Fiction-Geschichte, wenn man dann wirklich sagt, okay,

00:30:54.217 --> 00:31:01.577
es gibt einige wirklich zertifizierte Rechercheinstitute oder sonst irgendetwas,

00:31:01.637 --> 00:31:06.117
wo man sagt, okay, die haben diese Regeln und da kriegst du Informationen,

00:31:06.137 --> 00:31:08.257
die möglichst ungefiltert sind,

00:31:08.417 --> 00:31:10.997
jetzt in Anführungsstrichen oder nach diesen Richtlinien funktionieren.

00:31:11.457 --> 00:31:15.877
Finde ich, ist das auch eine spannende Erzählung, denn ich gebe dir recht.

00:31:17.197 --> 00:31:20.777
Philipp, was du gesagt hast, einmal sozusagen mit der Polizei,

00:31:21.037 --> 00:31:24.637
die jetzt nach Content guckt und sonst was, dafür wird es, glaube ich,

00:31:24.657 --> 00:31:27.397
viel zu viel Müll im Internet geben, dass du dem nicht her wirst,

00:31:27.677 --> 00:31:30.197
also du kannst das dann einfach nicht kontrollieren.

00:31:30.197 --> 00:31:33.517
Es gibt dann, es ist ja so wie mit Facebook,

00:31:33.717 --> 00:31:37.837
wo du jetzt, wenn du Missbrauch Sachen meldest und so gibt es ja auch Leute,

00:31:37.917 --> 00:31:42.537
die ständig gucken, was für Inhalte da drin sind, die da eigentlich nicht drauf

00:31:42.537 --> 00:31:45.377
sein dürfen auf diesen sozialen Netzwerken und die nehmen die runter.

00:31:45.977 --> 00:31:49.037
Das schaffen die aber alle gar nicht, letzten Endes.

00:31:49.797 --> 00:31:54.237
Das heißt also, ich würde schon sagen, ja, das ist ein Thema.

00:31:54.237 --> 00:31:55.517
Nein, du musst, glaube ich, da unterscheiden.

00:31:55.637 --> 00:31:59.437
Du hast gerade nämlich genau die Unterscheidung nicht getroffen.

00:31:59.577 --> 00:32:03.397
Du redest von Medienhäusern auf der einen Seite und nennst Facebook direkt im...

00:32:03.397 --> 00:32:05.497
Ja, ja, nee, genau, das ist nicht das Gleiche, ist klar. Genau,

00:32:05.657 --> 00:32:06.917
und das muss man, glaube ich, ganz klar trennen.

00:32:07.057 --> 00:32:12.617
Also zum Beispiel habe ich den Eindruck, und da bin ich ziemlich von überzeugt,

00:32:12.677 --> 00:32:14.297
weil ich auch weiß, wie die Kollegen arbeiten,

00:32:14.437 --> 00:32:20.357
dass zum Beispiel unsere Newsredaktion, also ich arbeite beim Deutschen Medienhaus,

00:32:20.477 --> 00:32:23.577
beim Deutschen Fernsehmedienhaus, und da weiß ich,

00:32:23.997 --> 00:32:28.417
dass da ganz sicherlich journalistische Standards aber sowas von hoch gehalten werden.

00:32:28.417 --> 00:32:31.477
Und Kollegen, die sich da vertun oder nur vom Hören sagen, irgendein Gerücht

00:32:31.477 --> 00:32:36.677
in die Welt streuen, da aber achtkant rausfliegen beziehungsweise massive Probleme haben und.

00:32:38.437 --> 00:32:43.477
Ich möchte auch den Erzählungen nicht aufsitzen, weil diese Erzählungen sind

00:32:43.477 --> 00:32:48.457
letztlich von extremistischen Kräften in dieser Gesellschaft erzählt oder geschürt.

00:32:49.157 --> 00:32:53.297
Dass man diesen etablierten Medienhäusern eben nicht mehr trauen kann.

00:32:53.297 --> 00:32:58.637
Also das ist ja genau das Phänomen, was wir in der Gesellschaft haben und das

00:32:58.637 --> 00:33:01.297
ist ja auch so etwas, wenn man sagt,

00:33:01.717 --> 00:33:06.177
KI generierte Deepfakes und sonst irgendwas, das ist ja ein unglaubliches Machtinstrument

00:33:06.177 --> 00:33:11.477
und wir sehen ja, dass eben, also du sprichst da über Vertrauen in den Medien

00:33:11.477 --> 00:33:14.437
und genau das will unsere Gesellschaft ja im Moment nicht mehr wahrhaben.

00:33:14.437 --> 00:33:19.117
Die sind ja dann eher eben in den anderen Medien unterwegs,

00:33:19.457 --> 00:33:25.477
in den sozialen Netzwerken, wo eben genau diese Richtlinien nicht greifen und

00:33:25.477 --> 00:33:30.457
unsere politische Situation verändert sich radikal.

00:33:30.457 --> 00:33:36.057
Wenn du in die Zukunft spinnst, in die Zukunft weitergehst, kann es nur so funktionieren,

00:33:36.137 --> 00:33:41.557
dass wieder ein gewisses Maß an Vertrauen hergestellt wird und wir ganz klar trennen zwischen,

00:33:41.877 --> 00:33:46.817
das ist Unterhaltung, das ist für mich ein soziales Medium, also wo ich mich

00:33:46.817 --> 00:33:50.217
mit Freunden treffen kann, virtuell, das wird ja dann mit, was weiß ich,

00:33:50.297 --> 00:33:52.817
noch irgendwie ausgebaut mit Metaverse und so weiter,

00:33:53.317 --> 00:33:56.257
worüber ich aber keine Informationen generiere.

00:33:56.257 --> 00:33:58.277
Und ich glaube, da sind wir nicht. Da sind wir noch lange nicht.

00:33:58.377 --> 00:34:03.437
Aber das ist vielleicht so meine heere utopische Vorstellung.

00:34:03.937 --> 00:34:05.217
Aber ich glaube, nur so kann funktionieren.

00:34:23.664 --> 00:34:28.204
Der Großteil dieser Menschen angab, dass wenn sie auf der Suche nach Informationen

00:34:28.204 --> 00:34:30.244
sind im Netz, TikTok bemühen.

00:34:30.524 --> 00:34:34.264
Und das fand ich schon furchtbar erschreckend, muss ich sagen.

00:34:34.264 --> 00:34:39.324
Gehen wir mal bitte einmal kurz zurück auf das Thema KI, also unser Kernthema eigentlich.

00:34:39.444 --> 00:34:49.524
Wir haben jetzt gerade festgestellt, dass wir eigentlich ein systemisches Problem letztendlich sehen,

00:34:49.924 --> 00:34:55.124
nämlich, dass wir hier ein neues Tool haben oder eine neue Möglichkeit haben

00:34:55.124 --> 00:34:58.684
und wir eigentlich nicht so ganz genau wissen, wie es funktioniert und deswegen

00:34:58.684 --> 00:35:01.644
da auch eine gewisse Skepsis kommt und wir schon erfahren haben.

00:35:02.644 --> 00:35:07.064
Dass auch dieses neue Tool dazu eingesetzt werden kann, Menschen zu schaden.

00:35:07.424 --> 00:35:12.344
Und ich glaube, dass diese Skepsis, die da entstanden ist, mitverantwortlich

00:35:12.344 --> 00:35:15.704
dafür war, dass einige Länder dieser Welt entschieden haben,

00:35:15.904 --> 00:35:18.944
dass es hier Handlungsbedarf gibt und dass man hier Regeln aufstellen muss.

00:35:19.144 --> 00:35:25.624
Und da ist ganz prominent erstmal die EU, die im August letzten Jahres die KI-Gesetze

00:35:25.624 --> 00:35:26.944
auf den Weg gebracht hat.

00:35:26.944 --> 00:35:34.944
Das ist ein Rahmenkonstrukt, an dem man sich so ein bisschen orientieren kann.

00:35:35.044 --> 00:35:35.944
Das wird noch ausgebaut.

00:35:36.224 --> 00:35:38.884
Also es ist auch so aufgebaut, dass man es ausbauen kann.

00:35:39.424 --> 00:35:42.304
Das möchte ich euch mal ein Kürze vorstellen, damit man so ungefähr weiß,

00:35:42.384 --> 00:35:43.204
worum geht es denn eigentlich.

00:35:43.424 --> 00:35:47.904
Wird ja viel darüber erzählt, aber am Ende ist es recht easy zu verstehen.

00:35:48.799 --> 00:35:52.079
Der Grund, warum man das überhaupt gemacht hat, ist, man möchte Vertrauen auch

00:35:52.079 --> 00:35:56.099
in KI schaffen, denn man darf nicht vergessen, das ist ein Markt und Europa

00:35:56.099 --> 00:35:58.859
möchte natürlich auch in diesem Markt existieren und möchte auch von diesem

00:35:58.859 --> 00:36:00.039
Markt profitieren, das ist klar.

00:36:00.519 --> 00:36:06.279
Und das bedeutet auch, dass den europäischen Unternehmen die Möglichkeit gegeben

00:36:06.279 --> 00:36:11.259
werden muss, diese Technologie sicher zu nutzen, in einem Rahmen zu nutzen,

00:36:11.599 --> 00:36:15.039
der mit unserem Werteverständnis irgendwo einhergeht, um dann irgendwie auch

00:36:15.039 --> 00:36:16.639
in der Welt nicht den Anschluss zu verlieren.

00:36:16.639 --> 00:36:20.759
Da setzt natürlich auch die Kritik an diesen Gesetzen an, dazu später aber mal,

00:36:20.839 --> 00:36:22.199
da können wir auch gerne drüber diskutieren.

00:36:22.679 --> 00:36:26.979
Also das ist der Grund, man will irgendwie Vertrauen in diese KI auch schaffen,

00:36:27.079 --> 00:36:30.139
in diese Möglichkeiten schaffen, aber auf der anderen Seite auch klar machen,

00:36:30.219 --> 00:36:34.719
dass es Risiken gibt und die in irgendeiner Weise ausgrenzen aus dieser ganzen Geschichte.

00:36:35.419 --> 00:36:40.179
Und abgesehen davon, dass die EU da eine Vorreiterrolle haben möchte,

00:36:40.319 --> 00:36:43.899
wenn es darum geht, ethische und nachhaltige Entwicklung von KI irgendwie zu fördern,

00:36:44.679 --> 00:36:48.679
kann man sich natürlich schon fragen, wie hält es in der Rest der Welt und ja,

00:36:49.219 --> 00:36:50.459
passt das eigentlich so?

00:36:50.459 --> 00:36:54.499
Ich halte es für ausgesprochen sinnvoll. Was hat die EU jetzt gemacht?

00:36:54.819 --> 00:36:59.739
Man hat die KI-Gesetze in sogenannte Risikostufen eingeteilt.

00:36:59.999 --> 00:37:06.599
Wir haben minimales Risiko, begrenztes Risiko, hohes Risiko und das inakzeptable Risiko.

00:37:08.079 --> 00:37:13.539
Minimales Risiko in Bezug auf KI, davon spricht man, wenn man über Tools spricht,

00:37:13.679 --> 00:37:17.159
die zu freien Nutzung zu verfügbar sind, zum Beispiel KI in Videospielen oder

00:37:17.159 --> 00:37:18.739
Spamfiltern oder irgendwie sowas.

00:37:19.419 --> 00:37:22.379
Dann gehen wir mal nochmal einen Schritt höher, dann haben wir tatsächlich schon

00:37:22.379 --> 00:37:27.639
das begrenzte Risiko, das sind KI-Systeme mit potenziellen Transparenzproblemen,

00:37:28.219 --> 00:37:35.059
so nennt man das zum Beispiel, wie beispielsweise gewisse Formen von Chatbots, die halt um,

00:37:35.908 --> 00:37:39.088
Jetzt im Nachhinein klar als KI auch gekennzeichnet werden müssen.

00:37:39.228 --> 00:37:42.008
Da haben wir jetzt wieder den Dreh, den wir vorhin schon mal in der Diskussion hatten.

00:37:42.468 --> 00:37:47.248
Das heißt, man möchte eigentlich, dass Tools, die mit Large Language Models

00:37:47.248 --> 00:37:53.268
arbeiten, die so etwas wie eine Menschlichkeit in irgendeiner Form simulieren

00:37:53.268 --> 00:37:55.328
können, auch als solche gekennzeichnet werden sollen.

00:37:56.508 --> 00:38:00.768
Auch die Kennzeichnung von Deepfakes ist das Ziel. Also im Prinzip genau das,

00:38:00.888 --> 00:38:02.068
worüber wir gerade geredet haben.

00:38:02.988 --> 00:38:05.268
Philipp ist der Meinung, das kriegen wir eigentlich nicht hin,

00:38:05.348 --> 00:38:06.788
das muss eher ein Vertrauensding sein.

00:38:07.248 --> 00:38:10.888
Ich finde es gar nicht so schlecht, wenn man sich dazu verpflichtet zu sagen,

00:38:11.148 --> 00:38:16.248
alles das, was mit einer KI erstellt worden ist, wird auch automatisch mit einem Stempel versehen.

00:38:16.248 --> 00:38:19.908
Ja, vielleicht muss man halt einfach, also klar, das ist ja auch Teil der Diskussion

00:38:19.908 --> 00:38:23.488
gleich, aber es ist halt ein EU-Ding, ich finde das super, ich finde das genau

00:38:23.488 --> 00:38:26.308
richtig, es ist halt genau das Ding, das ich sagen kann, ja,

00:38:26.448 --> 00:38:30.008
ich kann trennen, ich rede hier mit einer unglaublich beeindruckenden KI,

00:38:30.268 --> 00:38:33.488
ja, das ist vielleicht wie, als würde ich mit Menschen sprechen, aber ich weiß,

00:38:34.008 --> 00:38:36.708
das ist ein Chatbot und ich weiß, das hier ist gerade ein Deepfake,

00:38:37.168 --> 00:38:42.008
das ist eine unglaublich gute Regelung, nur weltweit, ja.

00:38:42.008 --> 00:38:44.288
Anderes Thema, lass uns da gleich drüber sprechen.

00:38:44.548 --> 00:38:49.448
Kommen wir zur nächsten Abgrenzungsstufe, nämlich KI-Systeme mit sogenannten

00:38:49.448 --> 00:38:54.728
hohen Risiko und die werden jetzt auch mit strengen Regeln letztendlich versehen.

00:38:54.728 --> 00:38:59.888
Hier geht es um KI-Systeme in kritischen Bereichen, beispielsweise Gesundheit

00:38:59.888 --> 00:39:04.968
wie robbergestützte Chirurgie in der Bildung, wie zum Beispiel Systeme zur Prüfungsbewertung

00:39:04.968 --> 00:39:08.628
oder Bildungszugänge steuern und so weiter.

00:39:08.768 --> 00:39:11.928
Dann gibt es KI-Tools in Bezug auf die Arbeit.

00:39:12.691 --> 00:39:17.911
Zum Beispiel CV-Sortiersoftware für Bewerbungsverfahren und sowas alles.

00:39:18.811 --> 00:39:22.971
Strafverfolgung, auch ein Thema. Damit ist gemeint, glaube ich,

00:39:23.211 --> 00:39:28.671
wenn eine KI eine Auswahl für oder gegen Menschen trifft.

00:39:28.871 --> 00:39:31.891
Das war jetzt, glaube ich, nicht ganz, so hatte ich das immer verstanden.

00:39:31.891 --> 00:39:35.031
Ja genau, ich habe es CV genannt, CV ist hier genannt, also wenn ich jetzt eine

00:39:35.031 --> 00:39:39.171
Bewerbung habe, einen Lebenslauf habe und dass ich dann Tools einsetze,

00:39:39.171 --> 00:39:42.931
die aufgrund von Stichwörtern beispielsweise selektieren sollen,

00:39:43.051 --> 00:39:44.551
auch für die sollen strenge Regeln gelten.

00:39:44.551 --> 00:39:49.311
In der Strafverfolgung wird ja auch KI eingesetzt, zum Beispiel zur Bewertung von Beweismitteln.

00:39:49.851 --> 00:39:54.211
Auch hier sollen strenge Regeln greifen, genau wie beim Oberthema Migration,

00:39:54.391 --> 00:39:56.311
zum Beispiel automatisierte Visa-Verfahren.

00:39:56.911 --> 00:40:00.531
Aber auch all das, was mit uns, mit der Demokratie zu tun hat,

00:40:00.631 --> 00:40:04.371
zum Beispiel Tools, die beispielsweise gerichtliche Entscheidungen unterstützen,

00:40:04.651 --> 00:40:07.191
die während der Wahl helfen und so weiter.

00:40:07.291 --> 00:40:10.831
Das sind Sachen, die strengen Reglements unterliegen sollen.

00:40:10.831 --> 00:40:17.051
Und dann haben wir in letzter Instanz die sogenannten inakzeptablen Risiken.

00:40:17.331 --> 00:40:21.211
Das sind KI-Systeme, die grundlegende Rechte bedrohen.

00:40:21.531 --> 00:40:25.591
Zum Beispiel dieses Social Scoring, von dem wir mal gehört haben,

00:40:25.771 --> 00:40:31.051
also soziale Bewertung durch Regierungen, wie es beispielsweise in China anscheinend auch der Fall ist.

00:40:32.371 --> 00:40:37.291
Oder aber auch gefährliche Beeinflussung von Kindern, egal in welcher Form und Art.

00:40:37.891 --> 00:40:41.351
Das sind Systeme, die verboten werden sollen.

00:40:41.651 --> 00:40:45.751
Also ihr merkt schon, man versucht hier eine Risikoabstufung vorzunehmen,

00:40:45.951 --> 00:40:51.691
die uns erstmal in irgendeiner Form einleuchtet, aber über die natürlich fortwährend diskutiert wird.

00:40:51.851 --> 00:40:55.891
Das heißt, was empfinde ich denn als risikohaft, als minimal,

00:40:56.091 --> 00:40:58.451
begrenzt, hoch oder inakzeptables Risiko?

00:40:59.368 --> 00:41:06.188
Und was diese Hochrisikos-KIs eingeht, da geht es um Verpflichtungen,

00:41:06.528 --> 00:41:07.688
die getätigt werden müssen.

00:41:08.308 --> 00:41:13.928
Zum Beispiel vor der Inverkehrbringung, da werden so Konformitätsbewertungen

00:41:13.928 --> 00:41:18.748
gemacht werden, so Risikominderungen, Sicherstellung von Datensicherheit,

00:41:18.888 --> 00:41:22.788
Robustheit der Systeme, Dokumentation und Nachvollziehbarkeit, sowas alles.

00:41:22.788 --> 00:41:28.448
Und wenn diese Systeme dann im Umlauf sind, müssen diese Systeme auch laufend

00:41:28.448 --> 00:41:32.788
überwacht werden, das muss sichergestellt sein, durch Anbieter und Betreiber im Übrigen.

00:41:32.928 --> 00:41:35.788
Da gibt es dann also quasi irgendwie auch eine Kontrollinstanz,

00:41:35.928 --> 00:41:40.828
die jetzt innerhalb der EU sagt, jetzt ist für die und die Tätigkeit folgende

00:41:40.828 --> 00:41:43.248
KI wird hier vorgeschlagen und dann wird erstmal geguckt,

00:41:43.668 --> 00:41:48.548
wie wird die eingruppiert und wenn sie in eine dieser Skalen eingruppiert wird,

00:41:48.808 --> 00:41:50.588
müsste man dann sagen, hey du darfst es nicht nutzen.

00:41:51.968 --> 00:41:55.728
Erst mal, das dürfte eigentlich gar nicht entwickelt werden. Also das, gut.

00:41:56.128 --> 00:42:00.168
Das war klar vorhanden. Es ist natürlich die Frage, woher bezieht man das,

00:42:00.268 --> 00:42:01.588
woher bezieht man seine Systeme.

00:42:01.768 --> 00:42:05.588
Aber es ist erst mal ein Grundgerüst, an dem jetzt weitere Gesetze,

00:42:05.848 --> 00:42:07.828
dezidierte Gesetze andocken können.

00:42:08.848 --> 00:42:15.288
Das ist auch gar nicht so blöd, gerade wenn es um Transparenz und Sicherheitsförderung

00:42:15.288 --> 00:42:19.088
geht von leistungsstarken Modellen zum Beispiel, generative KI und so weiter.

00:42:19.708 --> 00:42:24.428
Da muss man so ein bisschen schauen, wie wird sich da auch so ein bisschen der Markt entwickeln.

00:42:24.528 --> 00:42:27.388
Ich könnte mir auch vorstellen, dass einzelne oder mehrere Länder der EU,

00:42:27.488 --> 00:42:29.828
wenn die Druck machen, solche Gesetze auch wieder geändert werden können.

00:42:30.308 --> 00:42:34.808
Absolut. Weil die Deutungshoheit über die Risiken, also wie hoch jetzt ein Risiko

00:42:34.808 --> 00:42:40.468
ist oder nicht, die obliegt ja letztendlich dann den europäischen Staaten anscheinend.

00:42:40.468 --> 00:42:45.468
Oder das globale Interesse, wenn man jetzt wirklich merkt, wir sind die letzten

00:42:45.468 --> 00:42:48.408
Player, die anderen Länder machen jetzt krasse Sachen mit KI,

00:42:48.548 --> 00:42:52.888
die sind viel schneller, die, was weiß ich, Entwicklungen in den und den Bereichen,

00:42:52.988 --> 00:42:55.228
wenn wir da nicht nachziehen, dann sind wir am Arsch,

00:42:55.748 --> 00:42:57.588
dann wird so eine Regel ganz schnell gekippt.

00:42:57.588 --> 00:43:00.968
Da kann man den Niklas schön zitieren und sagen, ich würde die Entwicklung der

00:43:00.968 --> 00:43:04.588
KI kulturell gerne unterschiedlich haben.

00:43:05.028 --> 00:43:09.968
Schapöchen, sehr schön. Ja nein, aber so ist es ja, also das wird ja auch von

00:43:09.968 --> 00:43:14.408
den KI-Entwicklern in Deutschland ja auch stark kritisiert, die sagen ja,

00:43:14.688 --> 00:43:18.168
also die befürworten auf der einen Seite diese Reglementierung,

00:43:18.328 --> 00:43:21.828
sagen aber auch ja, gleichzeitig schneidet mir das aber ins eigene Fleisch,

00:43:21.968 --> 00:43:26.848
wenn ich mich daran halten muss und die Konkurrenz in anderen Ländern wesentlich stärker wird.

00:43:26.848 --> 00:43:31.428
Und diese Regeln nicht befolgen muss und so könntest du in Deutschland vielleicht

00:43:31.428 --> 00:43:37.888
einen Anschluss komplett verpassen, der dann auf dem globalen Markt komplett notwendig ist und dann.

00:43:38.928 --> 00:43:42.528
Sitzt du wieder hinten dran, bist aber moralisch, ethisch auf dem richtigen Weg.

00:43:43.328 --> 00:43:46.308
Das müssen wir glaube ich so ein bisschen differenzieren, weil ich glaube,

00:43:46.448 --> 00:43:49.748
dass wir so ein bisschen vernachlässigen, welche Wirtschaftsmacht die EU nach

00:43:49.748 --> 00:43:54.028
wie vor ist und wenn wir von einem ganzen Markt sprechen, der hier reglementiert

00:43:54.028 --> 00:43:58.308
wird, auch im Use Case, dann ist es glaube ich auch schon wichtig, dass auch.

00:43:59.386 --> 00:44:03.366
Ja, quasi Modelle, die von außen kommen, den Standards, die hier gelten,

00:44:03.466 --> 00:44:04.326
einfach entsprechen müssen.

00:44:04.906 --> 00:44:09.166
Und wenn sie dem nicht nachkommen, dann hoffentlich zieht das halt empfindliche

00:44:09.166 --> 00:44:10.786
Strafen nach sich in irgendeiner Form.

00:44:11.206 --> 00:44:14.346
Das heißt, man versucht halt schon, diesen europäischen Markt irgendwie sicher

00:44:14.346 --> 00:44:15.586
zu machen in Bezug auf KI.

00:44:15.986 --> 00:44:19.446
Ja, du hast recht, du hast es nochmal erweitert auf Europa. Also klar,

00:44:19.666 --> 00:44:20.166
dann geht es halt nicht um.

00:44:20.166 --> 00:44:24.166
Es geht ja um eine EU-Gesetz. Genau, richtig, weil ich ja jetzt argumentiert

00:44:24.166 --> 00:44:25.706
habe in Deutschland, aber du hast schon recht,

00:44:25.806 --> 00:44:32.966
wenn man diese Gesamtmacht Europa da mit bedenkt und diese Richtlinien innerhalb

00:44:32.966 --> 00:44:36.146
und das ist ein riesiges System,

00:44:36.266 --> 00:44:39.746
das an dem gleichen Strang zieht, ist das natürlich nochmal was anderes.

00:44:40.006 --> 00:44:42.986
Da spielst du dann gegen vielleicht zwei, drei andere größere Player,

00:44:43.226 --> 00:44:47.346
aber das ist schon richtig, deswegen klar, deutschlandweit kannst du das natürlich nicht denken.

00:44:47.346 --> 00:44:51.366
Und was ich hier im Übrigen sehr interessant finde, wir haben in einer vergangenen

00:44:51.366 --> 00:44:55.946
Folge darüber gesprochen, wie sieht es denn mit einer potenziellen Haftbarkeit in Bezug auf KI aus.

00:44:56.446 --> 00:45:00.246
Und da ist Philipp reingesprungen, hat gesagt, im Prinzip ist die Person,

00:45:00.406 --> 00:45:03.266
die entwickelt und promptet, verantwortlich.

00:45:03.926 --> 00:45:06.686
Und so wie ich die Gesetze verstanden habe und so wie es kommen soll,

00:45:06.886 --> 00:45:07.906
soll auch das der Fall sein.

00:45:08.626 --> 00:45:12.546
Das heißt, die Menschen, die KI nutzen und diejenigen, die sie auf den Markt

00:45:12.546 --> 00:45:16.026
bringen, die haften dann letztendlich auch, wenn es Probleme gibt.

00:45:17.606 --> 00:45:22.366
Also nutzen, ich nutze ChatGPT und ich sage ChatGPT, es soll etwas für mich

00:45:22.366 --> 00:45:24.006
tun, das wäre jetzt für mich der Nutzen.

00:45:24.226 --> 00:45:29.386
Der Entwickler ist ja was anderes, also wer ist denn jetzt haftbar?

00:45:30.146 --> 00:45:33.526
Beide tatsächlich. Also beide. So wie ich das verstanden habe,

00:45:33.666 --> 00:45:35.766
beide. Ich schaue hier aber tatsächlich nochmal einmal kurz nach,

00:45:35.846 --> 00:45:37.186
nicht, dass ich euch Scheiße erzähle.

00:45:37.906 --> 00:45:43.946
Ähm, so wie ich das sehe, ist die Sicherstellung von Datensicherheit und Robustheit

00:45:43.946 --> 00:45:49.666
der Systeme sowohl im Vorhinein als auch während des Use Cases zu gewährleisten.

00:45:50.346 --> 00:45:54.266
So, das bedeutet in Bezug auf die Haftbarkeit sich jetzt erstmal diejenigen,

00:45:54.406 --> 00:45:58.046
die diese Produkte auf den Markt bringen in der Pflicht, heißt für mich aber

00:45:58.046 --> 00:46:00.826
auch, man bedient sich ja, so wie ich das verstanden habe,

00:46:01.266 --> 00:46:05.986
bereits existierenden Large Language Models, die dann wieder zu neuen Produkten verfeinert werden.

00:46:06.846 --> 00:46:10.426
Das heißt, wenn ich zum Beispiel ein Tool entwerfe, das auf Basis von beispielsweise

00:46:10.426 --> 00:46:14.326
Chat-GPT oder anderen Large-Language-Models funktioniert, dann kann ich natürlich

00:46:14.326 --> 00:46:15.286
auch haftbar gemacht werden.

00:46:15.906 --> 00:46:19.366
So habe ich es zumindest verstanden. Ihr da draußen, wenn ihr da andere Informationen

00:46:19.366 --> 00:46:22.406
habt, dann lasst uns das doch bitte einmal wissen.

00:46:22.586 --> 00:46:27.666
Ich hatte es zumindest während des Lesens so verstanden, dass ich mir dachte,

00:46:27.846 --> 00:46:31.306
aha, guck mal, das ist doch genau das, was der liebe Philipp in einer der vergangenen

00:46:31.306 --> 00:46:33.126
Folgen auch mal so angemerkt hat.

00:46:33.226 --> 00:46:36.206
Und ich sehe, er schüttelt gerade mit dem Kopf. ich glaube, oder habe ich dich missverstanden?

00:46:38.846 --> 00:46:41.666
Also ich hatte das ja so ein bisschen soweit gesponnen,

00:46:43.092 --> 00:46:47.672
Ich vergleiche das immer so gern so ein bisschen so mit YouTube und da jetzt

00:46:47.672 --> 00:46:50.992
auch mit Facebook. Das ist ja im Prinzip eine ähnliche Debatte.

00:46:51.772 --> 00:46:55.512
Ist die Plattform, also ist der technische Dienstleister verantwortlich für

00:46:55.512 --> 00:46:57.492
den Content, der da hochgeladen wird?

00:46:59.032 --> 00:47:03.832
Und da gibt es ja tatsächlich insbesondere im anglo-sächsischen anglo-amerikanischen

00:47:03.832 --> 00:47:08.512
Raum gibt es da ja eine andere Auffassung davon, wie es das in der EU gibt also

00:47:08.512 --> 00:47:13.812
in der EU ist es ja schon so, dass wir Facebook bitten versuchen das mehr oder weniger,

00:47:15.052 --> 00:47:17.512
wirklich durchzusetzen, dass sie problematische Inhalte löschen,

00:47:17.592 --> 00:47:20.092
aber die zieren sich so ein bisschen weil die halt wirklich ganz klar eine andere

00:47:20.092 --> 00:47:24.792
Argumentation haben, die sagen halt, nee der User als solches ist verantwortlich

00:47:24.792 --> 00:47:26.452
und ich hatte das in meiner Vision,

00:47:27.092 --> 00:47:31.092
in Anführungsstrichen ein bisschen radikaler formuliert,

00:47:31.692 --> 00:47:37.072
indem ich halt sagte, dass der User ganz bewusst eben verantwortlich ist.

00:47:37.172 --> 00:47:44.192
Dahingehend, der nutzt eine KI und diese KI benutzt er, um zum Beispiel eine Arbeit durchzuführen.

00:47:44.352 --> 00:47:47.272
Also er ist so angestellt irgendwo und hat eine Personal KI,

00:47:47.392 --> 00:47:51.972
die er trainiert auf seinen Job und diese KI übernimmt ganz teilweise oder zumindest

00:47:51.972 --> 00:47:53.552
zum hohen Prozentteil seinen Job.

00:47:53.552 --> 00:47:57.692
Und dann sollte dieser Nutzer, dessen KI oder dessen KI-Anwendung,

00:47:57.692 --> 00:48:01.612
ist es ja eher, diesen Job übernimmt, sollte haftbar sein.

00:48:01.892 --> 00:48:05.432
Natürlich ist es so, wenn die KI jetzt einen groben Quatsch macht,

00:48:05.692 --> 00:48:08.752
was eindeutig auf die Programmierung oder auf den Hersteller zurückzuführen

00:48:08.752 --> 00:48:13.432
ist, gibt es da natürlich noch, in meiner Vorstellung, eben noch auch Möglichkeiten.

00:48:14.475 --> 00:48:17.855
Den Hersteller zur Verantwortung zu ziehen. Aber eigentlich müssen wir doch

00:48:17.855 --> 00:48:25.115
dahin kommen, dass der Nutzer die Verantwortung für das Produkt übernimmt.

00:48:25.215 --> 00:48:27.875
Also ich klage ja auch keinen Messerhersteller an.

00:48:28.015 --> 00:48:33.835
Das ist ja so ein Argument, was oft kommt, wenn ein Mörder mit einem Messer

00:48:33.835 --> 00:48:35.635
einen Menschen verletzt oder umbringt.

00:48:35.675 --> 00:48:38.195
Ich glaube, das war auch mein Gedankenproblem bei der letzten Folge,

00:48:38.295 --> 00:48:41.595
dass ich gedacht habe, Moment mal, du kannst ja jetzt nicht genau die ganzen

00:48:41.595 --> 00:48:44.135
Messerhersteller dafür verantwortlich

00:48:44.135 --> 00:48:47.055
machen, dass irgendjemand Missbrauch mit einem Messer betreibt.

00:48:47.175 --> 00:48:49.975
Jetzt konnte ich es aber etwas besser nachvollziehen. Niklas hat ja gerade gesagt,

00:48:50.095 --> 00:48:57.395
es gibt die KI und es gibt denjenigen, der dann mit der KI ein missbräuchliches Tool entwickelt.

00:48:58.215 --> 00:49:03.175
Dann könnte ich ja prüfen, warum hat diese KI, warum ermöglicht sie das?

00:49:03.295 --> 00:49:07.155
Zum Beispiel schade dem Menschen in irgendeinem Form, das dürfte sie doch gar nicht.

00:49:07.255 --> 00:49:12.195
Dann könnte ich dem Entwickler sagen, dein Algorithmus oder deine Deine KI lässt

00:49:12.195 --> 00:49:16.575
Dinge zu, die eigentlich nicht zulässig sind, das verstehe ich und natürlich verstehe ich,

00:49:16.775 --> 00:49:22.055
dass auf der Ebene, wenn ich jetzt keine Ahnung, hier eine Virussoftware prompte

00:49:22.055 --> 00:49:27.395
und ich da mit Massenschaden anrichte oder irgendwo andere schlimme Dinge mit

00:49:27.395 --> 00:49:29.975
KI mache, dass ich dann auch persönlich natürlich haftbar bin,

00:49:30.095 --> 00:49:33.915
weil ich den Algorithmus sozusagen für schlechte Zwecke missbraucht habe.

00:49:33.915 --> 00:49:38.375
Das ist ja, das gleicht ja so ein bisschen Flips Vision,

00:49:38.615 --> 00:49:42.375
wenn ich das richtig verstehe, nur du hattest das im Arbeitskontext natürlich

00:49:42.375 --> 00:49:46.935
auch gesagt, also ich habe drei verschiedene Jobs, die lasse ich über verschiedene

00:49:46.935 --> 00:49:49.795
KIs laufen und sage den KIs, wie sie es machen sollen,

00:49:50.055 --> 00:49:54.455
bin ich dann fahrlässig und wegen meiner Fahrlässigkeit kommt jemand zu Schaden,

00:49:54.815 --> 00:49:58.895
dann könnte man auch sagen, ja, weil du diese KI nicht ordnungsgemäß bedient hast.

00:49:59.558 --> 00:50:05.578
Ja, okay. Also jetzt haben wir eine wichtige Dimension besprochen,

00:50:05.578 --> 00:50:09.278
was hier tatsächlich ein bisschen zu kurz kommt in diesem ganzen Konstrukt,

00:50:09.498 --> 00:50:14.078
ist natürlich etwas, womit die Menschen hart fremdeln.

00:50:14.338 --> 00:50:17.698
Ich habe ja das Beispiel gerade gebracht mit dieser Mini-Umfrage,

00:50:17.878 --> 00:50:19.978
die ich heute mal in meinem Seminar gemacht habe.

00:50:20.718 --> 00:50:30.078
Und ich habe mir schon Gedanken darüber gemacht, was ist denn eigentlich mit einem Phänomen,

00:50:30.238 --> 00:50:36.838
Phänomen, dass man mitunter auch testen kann mit einem sogenannten Turing-Test.

00:50:37.958 --> 00:50:43.358
Wisst ihr noch, was das ist? Das ist dort der Test, der letzten Endes beweisen

00:50:43.358 --> 00:50:45.818
soll, ob mein Gegenüber ein Mensch oder eine Maschine ist.

00:50:45.818 --> 00:50:52.258
Genau, also der Test prüft halt Nachahmung menschlicher Kommunikation und auch

00:50:52.258 --> 00:50:55.138
die Fähigkeit von Maschinen, dem Fraker zu täuschen.

00:50:56.138 --> 00:51:00.538
Da geht man auch davon aus, muss man davon ausgehen, dass eine Maschine solche

00:51:00.538 --> 00:51:05.818
sogenannte Lügen zweiter Ordnung beherrscht, also das Nachahmen menschlicher Emotionen.

00:51:05.818 --> 00:51:13.618
Der Test wird halt gerne mal benutzt, um eigentlich vordergründig richtige künstliche

00:51:13.618 --> 00:51:17.458
Intelligenz, die uns täuschen kann, halt irgendwie zu bewerten.

00:51:17.998 --> 00:51:23.338
Und das ist insofern jetzt gerade mal relevant, als dass es ein sehr interessantes

00:51:23.338 --> 00:51:24.858
Phänomen bei uns Menschen gibt.

00:51:24.858 --> 00:51:27.418
Und das ist glaube ich auch etwas, was den Menschen mitunter Angst macht,

00:51:27.498 --> 00:51:31.378
zumindest wenn ich jetzt mal die Kommentare heute aus dem Seminar einfach nehme,

00:51:31.958 --> 00:51:37.258
nämlich das Problem, dass wir mittlerweile schon Chatbots haben,

00:51:37.458 --> 00:51:41.378
die, wenn ich nicht weiß, dass ein Chatbot hinter steht, ich mitunter davon ausgehen könnte,

00:51:42.118 --> 00:51:44.698
dass sich dahinter ein Mensch bewegt.

00:51:45.478 --> 00:51:52.298
Der Mensch neigt zu einem total witzigen Phänomen. Das ist der sogenannte Anthropomorphismus.

00:51:52.698 --> 00:51:54.358
Ich weiß nicht, ob ihr das schon mal gehört habt.

00:51:55.038 --> 00:51:58.998
Also Anthropos ist Mensch und Morphe ist die Form oder die Gestalt.

00:51:59.138 --> 00:52:01.998
Das ist im Prinzip die Zuschreibung menschlicher Eigenschaften.

00:52:02.218 --> 00:52:03.838
Zum Beispiel gegenüber Tieren, Vermenschlichung.

00:52:04.578 --> 00:52:08.658
Das ist ein unglaubliches Phänomen. Der Mann im Mond, da ist ein Gesicht im Mond.

00:52:09.458 --> 00:52:14.598
Ja, genau. Das heißt, wir schreiben Dingen, Gegenständen, aber auch Tieren,

00:52:14.698 --> 00:52:20.178
menschliche Eigenschaften zu und mit dieser Idee wird ja schon auch in der Science-Fiction-Welt

00:52:20.178 --> 00:52:21.978
unfassbar gut rumgesponnen.

00:52:22.398 --> 00:52:26.438
Das heißt, ein Teil der Wahrnehmung einer künstlichen Intelligenz,

00:52:26.558 --> 00:52:28.518
die ich als irgendwie menschlich betrachte,

00:52:28.678 --> 00:52:33.878
ist der Mensch selbst, der nämlich seine Eigenschaften aufgrund von Wahrnehmung

00:52:33.878 --> 00:52:38.818
in das Gegenüber, also Maschine oder Tier, hineintransportiert.

00:52:38.818 --> 00:52:46.098
Wie Hundebesitzer gerne Emotion, aber auch Motivation in Tiere hineininterpretieren,

00:52:46.218 --> 00:52:47.578
die sie so aber wahrscheinlich gar nicht hatten.

00:52:49.809 --> 00:52:54.829
Das ist insofern wichtig, als wir hier natürlich auch eine Gefahrenquelle haben

00:52:54.829 --> 00:52:56.589
in Bezug beispielsweise auf Betrug.

00:52:57.589 --> 00:53:01.629
Ist ja auch bekannt, dass es da auch schon Systeme gibt, mit denen versucht

00:53:01.629 --> 00:53:04.829
man Menschen irgendwie auch um ihr Erspartes zu bringen.

00:53:05.009 --> 00:53:09.889
Das sind natürlich Systeme, die so nicht erlaubt sind, aber es sind zum Beispiel

00:53:09.889 --> 00:53:14.189
genau diese Mechanismen, die dafür sorgen können, dass eine wachsende Skepsis

00:53:14.189 --> 00:53:18.269
gegenüber von KI-Sprachmodellen halt aufkommen kann.

00:53:18.809 --> 00:53:23.249
Dazu hat sich tatsächlich auch der Deutsche Ethikrat mal geäußert und hat da

00:53:23.249 --> 00:53:25.249
auch mal klare Kante bewiesen.

00:53:26.029 --> 00:53:29.489
Sie haben sich nämlich im Vorfeld mal darüber Gedanken gemacht,

00:53:29.609 --> 00:53:33.189
wie sieht denn eigentlich Mensch-Maschinen-Kommunikation jetzt in Zeiten von

00:53:33.189 --> 00:53:35.509
KI aus und wo muss die Grenze sein?

00:53:35.509 --> 00:53:40.209
Und da habe ich mal ein Zitat mitgebracht, eben aus diesem einen Werk,

00:53:40.609 --> 00:53:42.289
das sich dann konkret damit beschäftigt.

00:53:43.389 --> 00:53:47.389
Ich zitiere, es wird der Softwareentwicklung der Zukunft vermutlich im wachsenden

00:53:47.389 --> 00:53:51.529
Umfang gelingen, menschliche Fähigkeiten zu simulieren und in vielen Fällen zu übertreffen.

00:53:51.689 --> 00:53:55.729
Das sollte uns aber nicht dazu verführen, impersonale Eigenschaften zuzuschreiben,

00:53:55.989 --> 00:54:02.269
die für genuine menschliche Existenz essentiell ist.

00:54:02.469 --> 00:54:06.349
Verdammte Tat benutzen die viele Fachbegriffe. Also.

00:54:07.508 --> 00:54:12.548
Auch die sind der Meinung, dass es dort so etwas wie eine Gefahrenquelle gibt

00:54:12.548 --> 00:54:16.848
und man muss unterscheiden zwischen einer menschlichen und einer missionellen Intelligenz.

00:54:17.908 --> 00:54:20.988
Würden sie eine Gefahr nicht sehen, würden sie so etwas nicht formulieren.

00:54:21.188 --> 00:54:25.428
Und ich glaube, dass dort auch mit Sicherheit noch in Zukunft weitere Gesetze

00:54:25.428 --> 00:54:31.268
folgen könnten, so meine Vermutung zumindest, die auch da hineinstoßen.

00:54:31.348 --> 00:54:35.188
Die sagen, wir setzen der Vermenschlichung oder der Möglichkeit der Vermenschlichung

00:54:35.188 --> 00:54:38.368
von KI irgendwann Grenzen. Das wäre eine Vermutung von mir.

00:54:38.828 --> 00:54:41.048
Und jetzt würde mich mal wirklich interessieren, wie steht ihr dazu?

00:54:41.048 --> 00:54:43.068
Ich finde das mega spannend.

00:54:43.248 --> 00:54:47.088
Ich sehe bei dem, du hattest jetzt diese Gefahr von Betrug angesprochen,

00:54:47.268 --> 00:54:51.468
ich sehe noch eine andere Gefahr, die hatte ich auch mal in Dokumentationen gesehen,

00:54:51.668 --> 00:54:57.768
im Sinne von wirklich therapeutischen Ansätzen, wo jetzt ein Chatbot wirklich

00:54:57.768 --> 00:55:02.048
therapeutisch agiert oder es gibt ja auch virtuelle Freunde und sonst was.

00:55:02.048 --> 00:55:06.448
Und ich sehe ein bisschen die Gefahr, gerade weil du dieses Phänomen so schön

00:55:06.448 --> 00:55:08.768
angesprochen hast, dass ich das Ding vermenschliche.

00:55:08.948 --> 00:55:12.188
Siri ist jetzt mehr mein Freund als meine wirklichen Freunde.

00:55:13.368 --> 00:55:18.088
Und je perfekter diese Systeme sind und je besser sie antworten,

00:55:18.168 --> 00:55:20.228
so könnten sie übergefällig sein.

00:55:20.228 --> 00:55:26.648
Also dieser Algorithmus reagiert immer auf meine Stimmung, macht mich glücklich,

00:55:26.788 --> 00:55:30.328
diese Maschine macht mich glücklich, weil sie erkennt, oh die hat gerade schlechte

00:55:30.328 --> 00:55:32.048
Laune, der muss jetzt mal Metal hören,

00:55:32.948 --> 00:55:36.068
keine Ahnung und sagt, ja wollen wir nicht auf ein Heavy Metal Konzert gehen,

00:55:36.148 --> 00:55:37.208
ja cool, das ist ja eine super Idee.

00:55:37.208 --> 00:55:41.708
Du übrigens meine Freundin, die kommt nie auf solche Ideen, die steht ja noch

00:55:41.708 --> 00:55:45.868
nicht mehr auf die Musik oder sonst was und so könnte es an sozial,

00:55:46.128 --> 00:55:50.088
also uns als Gesellschaft könnte es schwer fallen,

00:55:50.308 --> 00:55:53.948
wenn solche Systeme so richtig krass sind, dass man sagt, ja wir haben hier

00:55:53.948 --> 00:56:01.248
den perfekten Menschen gegenüber und dass man sagt, ja dann sind meine Mitmenschen.

00:56:02.151 --> 00:56:04.431
Interessiere mich vielleicht gar nicht mehr so. Ich möchte mich nur noch mit

00:56:04.431 --> 00:56:05.531
dieser Maschine beschäftigen.

00:56:06.351 --> 00:56:11.631
Ich glaube, wir kommen in unserer Vision immer ganz oft auf diese Übersättigung.

00:56:11.811 --> 00:56:12.991
Also ich glaube, das ist so lange,

00:56:13.091 --> 00:56:15.251
bis man irgendwann sagt, jetzt habe ich davon auch die Schnauze voll.

00:56:15.251 --> 00:56:18.851
Aber dieses Potenzial, es gab jetzt auch Studien,

00:56:19.011 --> 00:56:26.131
dass die Gesellschaft immer mehr sich isoliert und immer mehr vereinsamt und

00:56:26.131 --> 00:56:27.891
natürlich auch immer mehr Möglichkeiten hat,

00:56:27.931 --> 00:56:31.391
sich auf eine andere Art und Weise zu beschäftigen und auf diesen wirklichen

00:56:31.391 --> 00:56:34.391
Mensch-zu-Mensch-Kontakt nicht mehr angewiesen sein zu müssen.

00:56:34.391 --> 00:56:38.511
Und da sehe ich die Gefahr, dass wenn dann solche Systeme da sind,

00:56:38.611 --> 00:56:41.151
die wirklich so gut sind, dass

00:56:41.151 --> 00:56:44.911
ich mich auch noch stundenlang mit einem Roboterfreund unterhalten kann.

00:56:46.231 --> 00:56:52.951
Ja, dass da wesentliche menschliche Dinge einfach gesellschaftlich in Gefahr sind.

00:56:52.951 --> 00:56:57.251
Aber um das jetzt genau auf unser Universum und auf Science Fiction und vor

00:56:57.251 --> 00:57:00.771
allem auch auf Literatur und Science Fiction zum Beispiel zu übertragen,

00:57:01.031 --> 00:57:02.831
sehe ich genau in dem Punkt,

00:57:03.391 --> 00:57:10.431
den wir jetzt gerade diskutieren, die große Aufgabe und die große Stärke von

00:57:10.431 --> 00:57:15.611
Science Fiction, nämlich genau solche Szenarien zu zeichnen.

00:57:15.611 --> 00:57:19.071
Das muss nicht unbedingt immer eine Dystopie sein, das kann auch tatsächlich

00:57:19.071 --> 00:57:22.271
eine Utopie sein oder man muss vielleicht auch gar nicht so richtig zuordnen

00:57:22.271 --> 00:57:22.871
in irgendeine Richtung.

00:57:24.811 --> 00:57:32.131
Um auf solche möglichen Gefahren hinzuweisen, um aber vielleicht auch grundlegend

00:57:32.131 --> 00:57:35.191
die Frage zu stellen, was ist menschlich?

00:57:36.831 --> 00:57:40.951
Und definieren wir, müssen wir irgendwann Menschlichkeit nochmal neu definieren?

00:57:41.211 --> 00:57:44.891
Inwieweit, also das finde ich eine ganz interessante Frage. Nein, das ist made by human.

00:57:45.391 --> 00:57:53.451
Das made by human ist interessant, aber auch diese ganze Thematik des Transhumanismus, der Cyborgs.

00:57:55.131 --> 00:58:03.171
Ist es irgendwann überhaupt relevant, ob ich mich mit einem Roboter unterhalte,

00:58:03.251 --> 00:58:09.831
der vielleicht genauso ein Teil der Gesellschaft sein kann in seiner Art von Existenz?

00:58:10.411 --> 00:58:14.591
Oder ich mich mit einem Freund unterhalte? Also ist das denn überhaupt schlimm?

00:58:14.791 --> 00:58:16.531
Also diese Frage könnte man sich auch stellen.

00:58:17.331 --> 00:58:21.191
Ja, und sie wird tatsächlich aktuell mit Nein beantwortet.

00:58:21.351 --> 00:58:25.771
Also das ist das Statement, das aktuell so steht.

00:58:26.271 --> 00:58:31.611
Und ich finde die Vorstellung irgendwie krass, dass man sagt...

00:58:32.156 --> 00:58:35.256
Schmeißt das vielleicht auch mal irgendwann über Bord. Ja, aber genau das finde

00:58:35.256 --> 00:58:38.596
ich, genau, genau, genau, aber genau das finde ich spannend.

00:58:39.496 --> 00:58:43.316
Dahingehend, wo es weh tut. Allen unseren Zuhörerinnen und Zuhörern,

00:58:43.796 --> 00:58:47.716
euch auch, mir eingeschlossen, glaube ich, sträuben sich die Nackenhaare,

00:58:47.836 --> 00:58:49.016
diese Frage überhaupt zu stellen.

00:58:49.136 --> 00:58:52.336
Ist das irgendwie ein Problem, dass man sich vielleicht lieber mit seinem Roboterfreund

00:58:52.336 --> 00:58:56.596
unterhält, jetzt so gespitzt, als mit seinem Nachbarn oder als mit seiner Frau.

00:58:58.976 --> 00:59:02.796
Aber ich glaube schon, ohne dass wir diese Frage stellen müssen.

00:59:03.096 --> 00:59:09.336
Natürlich rede ich jetzt nicht über ein Szenario von 2025, wo wir uns mit einem

00:59:09.336 --> 00:59:11.956
Textgenerator unterhalten. Das ist eine andere Dimension.

00:59:12.356 --> 00:59:15.976
Aber jetzt denken wir doch mal weiter und haben unseren persönlichen KI-Assistenten,

00:59:16.056 --> 00:59:18.616
der vielleicht sogar visualisiert wird, der vielleicht sogar auch,

00:59:18.696 --> 00:59:22.716
keine Ahnung, vielleicht kann der auch springen oder Teile von ihm,

00:59:22.796 --> 00:59:24.756
Teile von Apps sind in meinen Geräten drin.

00:59:25.076 --> 00:59:28.676
Das ist einfach ein menschlicher Roboter, der auch noch wahnsinnig fantastisch

00:59:28.676 --> 00:59:31.676
aussieht und den du dir so zusammenstellst, wie du es gerne haben möchtest.

00:59:31.896 --> 00:59:37.336
Also das ist ja, also das ist ja, ehrlich gesagt, die humanoiden Roboter,

00:59:37.516 --> 00:59:40.356
guckst du da auch in die aktuellen,

00:59:42.416 --> 00:59:46.536
News, das ist, die sind da. Das ist auch keine Science Fiction mehr.

00:59:46.916 --> 00:59:49.216
Und die Vorstellung, dass wir, keine Ahnung, wahrscheinlich,

00:59:50.516 --> 00:59:53.756
da würde ich, ich meine, als Sci-Fi-Fan würde ich es ja wirklich feiern,

00:59:53.796 --> 00:59:56.816
wenn unsere Enkel oder unsere Kinder vielleicht immer mal sagen,

00:59:57.536 --> 01:00:01.036
boah, ja, der Orti, der ist jetzt 70, 75.

01:00:02.316 --> 01:00:04.556
Was sollen wir dem noch schenken? Der wünscht sich auch irgendwie nichts.

01:00:04.636 --> 01:00:06.156
Dann kriegt er so einen KI-Butler.

01:00:06.876 --> 01:00:11.736
Also so einen Roboter-Butler, so wie man früher so dem Oppern-Relax-Sessel gekauft hat oder so.

01:00:14.656 --> 01:00:20.016
Und das Beste ist, wenn du dann 85 bist, dann wird noch das Software-Update

01:00:20.016 --> 01:00:23.836
zum Thema Pflege aufgespielt und dann ist es nicht nur ein KI-Butler oder ein

01:00:23.836 --> 01:00:25.756
Roboter-Butler, sondern kann dich auch noch pflegen.

01:00:26.036 --> 01:00:28.336
Genau, dieses Modell kann doch später auch noch die Pflege übernehmen.

01:00:28.336 --> 01:00:33.036
Aber ehrlich gesagt, das finde ich, ja, na klar ...

01:00:35.385 --> 01:00:40.405
Das wird kommen und ich glaube auch, wir haben am Anfang der Folge so schön

01:00:40.405 --> 01:00:43.665
gesagt, wir sind an diesem Wendepunkt, wo wir noch nicht genau wissen,

01:00:43.745 --> 01:00:45.405
wo das hingeht, aber es kommt.

01:00:47.605 --> 01:00:51.745
Ey, da habe ich mir übrigens eine Frage zu aufgeschrieben. Du hast gesagt,

01:00:52.005 --> 01:00:54.445
wir sind jetzt an dem Punkt und keiner weiß, wo es hingeht.

01:00:54.625 --> 01:00:58.845
Und da habe ich mir aufgeschrieben, da wollte ich eh nochmal drauf zurückgehen.

01:00:59.605 --> 01:01:04.905
Ich halte das für eine zentrale Aufgabe von Science Fiction,

01:01:05.345 --> 01:01:10.765
wo wir auch Teil dessen sind, eine Welt zu formen, eine Idee zu formen,

01:01:10.885 --> 01:01:13.325
eine Vision dessen zu formen, wo es hingehen kann.

01:01:13.425 --> 01:01:16.885
Und es obliegt hier an uns, und das tun wir ja gerade in dieser Diskussion,

01:01:17.105 --> 01:01:18.285
wie wir es ausgestalten wollen.

01:01:18.285 --> 01:01:22.225
Und das ist ja das Spannende und das finde ich die allergrößte Chance an Science

01:01:22.225 --> 01:01:26.725
Fiction und deswegen finde ich das so unglaublich wertvoll, wichtig und vor

01:01:26.725 --> 01:01:30.205
allem das, was wir eigentlich nie sein wollten, weil wir eigentlich Nerds sind,

01:01:30.285 --> 01:01:31.505
die Bock auf Raumschiffe haben,

01:01:31.885 --> 01:01:37.125
sind wir extrem politisch, aktuell und gesellschaftlich relevant tatsächlich

01:01:37.125 --> 01:01:40.965
mit so einem blöden Science Fiction Podcast und das muss man einmal in den Köpfe reinkommen.

01:01:41.645 --> 01:01:46.745
Aber es geht auch nicht anders, wenn wir das Ding hier durchdenken wollen.

01:01:47.425 --> 01:01:52.645
Es ist unsere Geschichte, das ist klar, aber wir kommen, wir müssen diesen Punkt

01:01:52.645 --> 01:01:57.085
irgendwie durchdenken und wir müssen ihn gesellschaftlich durchdenken.

01:01:57.085 --> 01:02:01.105
Ich habe da, ich merke bei mir manifestiert sich so ein Ding,

01:02:01.325 --> 01:02:05.325
dass ich sagen würde, es ist unaufhaltsam. Ich möchte nochmal Niklas hier zitieren.

01:02:05.705 --> 01:02:08.945
Die Schüler sagen, ich habe Angst davor, aber ich nutze es trotzdem.

01:02:08.945 --> 01:02:13.485
Okay, jeder nutzt es, es gibt diese Skepsis, aber es kommt.

01:02:13.845 --> 01:02:17.125
Und wir haben auch immer gesagt, was entwickelt wird, wird entwickelt.

01:02:17.265 --> 01:02:20.505
Das heißt, alles, was wir so ein bisschen, wovor wir auch Angst haben,

01:02:20.565 --> 01:02:24.105
das, was Niklas auch vorgestellt hat, das wird alles irgendwo da sein.

01:02:24.105 --> 01:02:27.325
Es wird diesen Missbrauch geben, es wird korrupte KIs geben,

01:02:27.425 --> 01:02:33.985
es wird Roboter geben, es wird auch bestimmt irgendwann maschinelles Bewusstsein kommen.

01:02:34.285 --> 01:02:37.445
Die Frage ist eben, wie reagiert die

01:02:37.445 --> 01:02:44.605
Gesellschaft darauf und was wird reglementiert und was sind die Folgen?

01:02:44.825 --> 01:02:49.205
Gibt es dann keine Technik mehr? Wir haben, Philipp hat romantisiert über dieses,

01:02:49.685 --> 01:02:53.345
naja, die Mensch-zu-Mensch-Interaktion wird immer wichtiger und vielleicht kommt

01:02:53.345 --> 01:02:57.905
man auch in einem Punkt der KI-Sättigung, dass die Gesellschaft sagt, wisst ihr was?

01:02:59.091 --> 01:03:02.411
Roboter sind mir scheißegal, diese ganzen Videos sind mir scheißegal,

01:03:02.591 --> 01:03:08.131
ich kann das alles nicht mehr trennen, wir wollen das alles nicht mehr und auch

01:03:08.131 --> 01:03:12.811
da quasi gibt es erstmal einen riesen Boom an Entwicklung und irgendwann sagt

01:03:12.811 --> 01:03:14.791
man, nee, wir sind ihm überdrüssig.

01:03:15.431 --> 01:03:18.591
Und die könnte ich mir so vorstellen, dass sich das dahingehend äußert,

01:03:18.811 --> 01:03:22.531
dass während meine KI, vielleicht mein KI-Butler, wo wir gerade beim Thema waren,

01:03:22.691 --> 01:03:23.871
also mein KI kombiniert, wir

01:03:23.871 --> 01:03:27.151
reden ja gerade darüber, dass eine KI kombiniert mit einem Roboter ist.

01:03:27.291 --> 01:03:30.591
Ich meine, das ist ja jetzt nicht, das ist jetzt irgendwie ein total logischer Schritt irgendwie.

01:03:32.191 --> 01:03:36.951
Und wer weiß, vielleicht kann es ja so sein, dass mein Butler gerade den Haushalt

01:03:36.951 --> 01:03:41.231
macht, während dein Butler, Ortie, auch den Haushalt macht und während dein Butler, Niklas,

01:03:41.491 --> 01:03:46.131
auch den Haushalt macht Und wir drei uns einfach auf der Hütte auf Lanzarote

01:03:46.131 --> 01:03:48.031
oder was genau da, nämlich treffen,

01:03:48.531 --> 01:03:51.091
einen wunderbaren menschlichen Abend miteinander verbringen,

01:03:51.171 --> 01:03:53.311
weil wir vielleicht, ne, die Instinkte,

01:03:53.991 --> 01:03:58.291
unsere menschlichen Urinstinkte sind immer noch da, wir sitzen vielleicht wieder um ein Feuer rum.

01:03:58.291 --> 01:04:01.391
Und vielleicht spielt uns Niklas was von seiner Musik vor.

01:04:01.531 --> 01:04:06.471
Wir trinken guten Whisky und freuen uns einfach an den Erlebnissen und haben

01:04:06.471 --> 01:04:10.271
dann für den Moment bewusst, vielleicht für ein Wochenende, weil wir entfliehen

01:04:10.271 --> 01:04:12.871
wollen oder so, diese ganze Technik ausgebildet.

01:04:13.011 --> 01:04:18.071
Gehen wir wieder in den Alltag, nutzen wir weiterhin diese Assistenten.

01:04:18.071 --> 01:04:22.851
Ich merke, dass so für mich diese Reise gedanklich da hingeht,

01:04:22.931 --> 01:04:27.831
also so eine Koexistenz mit diesem ganzen Kram und natürlich, also die Reise.

01:04:28.340 --> 01:04:31.520
Machtmissbrauch und so weiter und so fort und das wird auch ganz viel Stoff

01:04:31.520 --> 01:04:34.960
für spannende Geschichten geben, also irgendwelche großen Konzerne,

01:04:35.060 --> 01:04:40.360
die dann mit dem neuesten KI-Entwicklungstool das und das entwickeln auf jeden Fall,

01:04:40.780 --> 01:04:45.620
aber ja, das ist eine coole, ich finde es eine coole Vorstellung zu sagen,

01:04:45.760 --> 01:04:50.380
die Gesellschaft ist einmal hochkatapultiert worden mit all den Möglichkeiten der KI,

01:04:50.560 --> 01:04:54.020
da hat es einen riesen Boom gegeben und irgendwann ist diese Blase auch ein

01:04:54.020 --> 01:04:56.620
bisschen zerfallen und man hat sich eben wieder auf das Menschsein.

01:04:58.960 --> 01:05:02.360
Fokussiert oder das ist gesellschaftlich das, was gerade wieder viel mehr in

01:05:02.360 --> 01:05:06.160
den Fokus rückt und da setzt dann ja vielleicht auch unsere Geschichte viel

01:05:06.160 --> 01:05:09.580
mehr wieder an und da könnte man eben auch wieder wunderbar argumentieren,

01:05:10.060 --> 01:05:13.400
dass obwohl das alles möglich ist und obwohl es das alles gibt,

01:05:13.620 --> 01:05:17.260
es gar nicht so viel genutzt wird oder von der Gesellschaft vielleicht sogar abgelehnt wird.

01:05:17.460 --> 01:05:22.220
Mir fällt da eine kleine Geschichte zu ein, wenn ich beispielsweise Mehrgenerationsschiff

01:05:22.220 --> 01:05:25.060
habe, das darauf angewiesen ist, dass zwischendurch Leute wach werden und die

01:05:25.060 --> 01:05:28.600
Systeme warten, Werden die mit Sicherheit von KIs unterstützt,

01:05:28.680 --> 01:05:30.080
damit sie sich auch nicht so einsam fühlen.

01:05:30.780 --> 01:05:37.480
Und vielleicht kann aus einem so Prozess des Akzeptierens einer solchen KI als Notwendigkeit,

01:05:37.720 --> 01:05:41.240
eine sehr persönliche menschliche KI als Notwendigkeit auch resultieren,

01:05:41.460 --> 01:05:45.200
dass man sich im Nachhinein viel offener demgegenüber zeigt,

01:05:45.300 --> 01:05:46.220
wenn die Menschen dann landen.

01:05:46.960 --> 01:05:49.560
Das könnte ich mir auch vorstellen. Ich könnte mir aber ebenso vorstellen,

01:05:49.580 --> 01:05:50.840
das, was ihr gerade postuliert habt.

01:05:51.720 --> 01:05:54.360
Nee, ich bin einfach froh, jetzt wieder mit Menschen interagieren zu können.

01:05:54.460 --> 01:05:57.720
Wir reduzieren die Möglichkeiten einer künstlichen Intelligenz auf das Notwendigste.

01:05:59.220 --> 01:06:02.400
Also da lassen sich wirklich viele Storys erzählen. Total.

01:06:02.600 --> 01:06:05.980
Und es muss auch nicht immer, ich glaube halt, Otti, was du gerade gesagt hast,

01:06:06.340 --> 01:06:08.260
eine Koexistenz, da glaube ich,

01:06:08.340 --> 01:06:13.280
wird irgendwo dieser Mittelweg irgendwie verlaufen. Also im Sinne von.

01:06:16.840 --> 01:06:21.160
Regularien hinher, ich glaube nicht, dass es wirklich eine gesetzliche Verordnung

01:06:21.160 --> 01:06:23.960
gibt, wir verbieten KIs, das kann ich mir nicht vorstellen, dass das irgendwie

01:06:23.960 --> 01:06:26.540
ansatzweise durchsetzbar ist, ich kann mir aber schon vorstellen.

01:06:28.260 --> 01:06:31.480
Und dass das auch jemand wirklich macht, ich fand das immer ehrlich gesagt,

01:06:31.580 --> 01:06:34.620
bei Dune gab es das ja auch so, irgendwann gab es dann Butler's Dschihad und

01:06:34.620 --> 01:06:36.600
dann wurden die ganzen Maschinen verboten.

01:06:38.020 --> 01:06:41.580
Im kompletten Universum und dann denke ich mir, wer hält sich denn da dran,

01:06:41.760 --> 01:06:45.080
als würde das auf einmal funktionieren. Das ist mir immer so ein Schwarz-Weiß.

01:06:45.820 --> 01:06:50.220
So, Bums. Ich brauche jetzt irgendwie eine Erklärung dafür, weil ich das nicht

01:06:50.220 --> 01:06:52.060
haben will und dann ist es halt verboten.

01:06:52.600 --> 01:06:56.260
Ich glaube, das ist auch das, was wäre,

01:06:56.949 --> 01:07:00.929
Eine sehr faule Geschichte, wenn wir einfach sagen, und dann ist alles explodiert

01:07:00.929 --> 01:07:04.289
und der Zentralrechner ist kaputt gegangen und deswegen ist dann auch die KI

01:07:04.289 --> 01:07:08.149
kaputt gegangen und dann gab es die nicht mehr, weil keiner hat sie neu entwickelt oder irgendwas.

01:07:08.769 --> 01:07:11.449
Wir wollen da einfach ein bisschen realistischer bleiben. Ich glaube,

01:07:11.549 --> 01:07:14.809
dass der Mensch diese Art von Technologie auf jeden Fall mitnehmen wird und

01:07:14.809 --> 01:07:17.289
sie unterschiedlich für sich auslegen und nutzen wird.

01:07:17.489 --> 01:07:20.309
Ich fand es erstmal interessant zu schauen, wie stehen wir heute dazu.

01:07:20.929 --> 01:07:24.509
Ich bin auch mal total interessant, ich hoffe zumindest noch so lange zu leben

01:07:24.509 --> 01:07:28.029
wie nachfolgende Generationen, die dann auch einfach mit diesen Tools groß werden,

01:07:28.929 --> 01:07:32.889
wie die letztendlich darauf reagieren und wie sie das wahrnehmen und wie befremdlich

01:07:32.889 --> 01:07:36.309
das vielleicht auch für uns sein wird. Da freue ich mich ehrlich gesagt auch ein bisschen drauf.

01:07:37.289 --> 01:07:41.549
Kann aber trotzdem nicht verleugnen, dass meine Skepsis gegenüber diesem Thema

01:07:41.549 --> 01:07:45.789
letztendlich immer noch da ist, weil wir einfach nicht das Wissen haben aktuell,

01:07:46.249 --> 01:07:50.429
womit haben wir es hier denn eigentlich zu tun, bis es so selbstverständlich

01:07:50.429 --> 01:07:52.629
geworden ist, dass wir uns diese Frage gar nicht mehr stellen.

01:07:53.329 --> 01:07:56.569
Ähnlich wie bei anderen Systemen, die im Laufe der Menschheit so aufgetaucht

01:07:56.569 --> 01:08:00.469
sind. Und dass gewisse Risiken auch einfach in Kauf genommen werden.

01:08:01.929 --> 01:08:06.149
Das war ja bei fast jeder technologischen Entwicklung so. Insofern,

01:08:06.349 --> 01:08:12.929
ja, also das ist zumindest mal so ein Startpunkt, an dem wir jetzt stehen.

01:08:13.109 --> 01:08:16.889
So empfinde ich das zumindest gerade nach dieser wirklich elendig langen Reihe

01:08:16.889 --> 01:08:20.189
zum Thema KI, dass wir jetzt ungefähr eine grobe Vorstellung haben,

01:08:20.389 --> 01:08:25.249
wie könnte es aussehen. Ja, da möchte ich mich tatsächlich dahingehend anschließen, Niklas.

01:08:25.349 --> 01:08:29.329
Vielen, vielen Dank für deine Recherchen. Vielen Dank für die Impulse,

01:08:29.349 --> 01:08:30.869
die du hier nochmal reingebracht hast.

01:08:30.969 --> 01:08:34.729
Und ich fand das wirklich in den letzten beiden Folgen hochinteressant,

01:08:34.889 --> 01:08:38.609
dass wir wirklich jetzt an Themen gehen, die wehtun.

01:08:38.789 --> 01:08:42.989
Also sich über Raumschiffantriebe zu unterhalten ist nett, tut aber wirklich

01:08:42.989 --> 01:08:50.129
gar keinem weh. und da ist eher so eine fast schon infantile Technikbegeisterung zu spüren.

01:08:50.269 --> 01:08:55.209
Und jetzt aber wirklich gehen wir an den Kern der Themen und wenn Orti sagt,

01:08:55.289 --> 01:08:55.849
das wäre ein bisschen...

01:08:56.419 --> 01:09:00.539
Bisschen faul ist es schon zu sagen, der Zentralrechner ist kaputt, es gibt keine KI mehr.

01:09:00.979 --> 01:09:06.339
Stimme ich dir absolut zu und ich glaube, wenn wir eine Lösung,

01:09:06.619 --> 01:09:11.979
eine Vision entwickeln und beschreiben können im Götterkomplex-Universum,

01:09:12.139 --> 01:09:16.039
wie mit KI umgegangen wird und vielleicht auch, wie es Impact auf die Gesellschaft

01:09:16.039 --> 01:09:19.359
hat, wenn wir da wirklich konkrete Sachen definieren können.

01:09:19.939 --> 01:09:25.779
Dann folgen wir einer Vision, einer Science-Fiction-Vision, ob sie dann eintritt in 50, in 100 Jahren.

01:09:25.779 --> 01:09:30.179
Das müssen andere bewerten, aber das finde ich, glaube ich, das großartige und

01:09:30.179 --> 01:09:33.959
die großartige Chance, die wir mit diesem Projekt haben, nämlich wirklich eine

01:09:33.959 --> 01:09:37.019
Vision aufzuzählen, aufzuzeigen,

01:09:37.299 --> 01:09:41.179
wo es hingehen kann, die vielleicht sogar auch einfach letztlich eine Warnung

01:09:41.179 --> 01:09:45.179
ist, weil man merkt, okay, wir beschreiben hier Dinge, weil wir automatisch

01:09:45.179 --> 01:09:47.399
in so einen Loop reinkommen, die vielleicht gar nicht so cool sind.

01:09:47.399 --> 01:09:52.919
Aber auch das ist, finde ich, ein Beitrag, ein wertvoller gesellschaftlicher

01:09:52.919 --> 01:09:54.699
Beitrag zu unserer aktuellen Diskussion.

01:09:54.799 --> 01:09:57.359
Und das ist irgendwie spannend, weil das wollten wir eigentlich nie sein.

01:09:57.479 --> 01:10:00.419
Und genau das sind wir gerade. Deswegen vielen, vielen Dank dazu.

01:10:02.039 --> 01:10:05.279
Ich kann mich da auch nur anschließen, also ich merke so aus den letzten Folgen

01:10:05.279 --> 01:10:06.939
und auch aus der Folge heute,

01:10:07.239 --> 01:10:12.599
da ist so viel Zündstoff drin, den wir überhaupt gar nicht final beantworten

01:10:12.599 --> 01:10:14.999
können, das merken wir auch, wir drehen uns dann manchmal im Kreis,

01:10:15.079 --> 01:10:17.619
wir diskutieren hin und her, wir bleiben manchmal gar nicht bei den Themen,

01:10:17.699 --> 01:10:19.319
weil man schon wieder ein neues Fass aufgemacht hat,

01:10:19.719 --> 01:10:23.159
weil KI global ist, es wird alles irgendwie mit betreffen.

01:10:25.179 --> 01:10:29.719
Und ich finde aber gerade diese Impulse, wo man, Philipp sagt immer so,

01:10:30.079 --> 01:10:34.759
da wo es wehtut ist die Geschichte und die Geschichte ist bei KI in so vielen

01:10:34.759 --> 01:10:39.879
Bereichen, Niklas hat so schön gesagt, hier sind Gefahrenquellen,

01:10:40.099 --> 01:10:43.859
die identifiziert werden und hier sind Ängste.

01:10:43.859 --> 01:10:49.159
Ich habe Angst vor der Maschine, aber ich vermenschliche auch die Maschine und so weiter und so fort.

01:10:49.199 --> 01:10:51.859
Das sind so viele Phänomene, die damit verbunden sind.

01:10:53.399 --> 01:10:57.999
Und das ist, ich merke immer mehr, dass ich halt auch Bock habe zu sagen,

01:10:58.179 --> 01:11:02.479
ich möchte das Thema nicht mehr technisch sozusagen behandeln,

01:11:02.739 --> 01:11:06.219
so was ist jetzt noch möglich und was könnte jetzt in einer Woche der nächste

01:11:06.219 --> 01:11:09.139
Schrei der KI-Entwicklung sein und welcher Roboter hat jetzt wieder eine neue

01:11:09.139 --> 01:11:12.479
Fähigkeit entwickelt und wer kann jetzt wahrhaftig, keine Ahnung,

01:11:12.539 --> 01:11:14.239
da gibt es wieder ein neues Gerät, dies, das, jenes.

01:11:14.239 --> 01:11:18.099
Das interessiert mich immer weniger, sondern eigentlich haben wir durch diese

01:11:18.099 --> 01:11:20.219
Folgen diese groben Themen aufgemacht.

01:11:20.579 --> 01:11:24.739
Was hat das für Auswirkungen auf unser Leben? Die großen Themen, nicht nur grob.

01:11:25.139 --> 01:11:28.639
Ja, also auf jeden Fall, da wollte ich gar nicht so unterreden,

01:11:28.719 --> 01:11:33.739
sondern irgendwie, also erstmal, was ist möglich und dann, welche Auswirkungen könnte das haben?

01:11:33.999 --> 01:11:38.239
Und ja genau, wichtig ist, dass wir für die Schritte, die wir erzielen wollen,

01:11:38.399 --> 01:11:44.479
eine logische Herleitung entwickeln, dass wir dann sagen, wenn der Zentralrechner ausgefallen ist,

01:11:45.202 --> 01:11:48.962
Warum hat dann keiner weitergemacht oder wie auch immer. Oder wenn die Menschheit

01:11:48.962 --> 01:11:53.882
gesagt hat, wir möchten, wir hatten diese ganze KI, wir hatten irgendwann eine

01:11:53.882 --> 01:11:57.482
Sättigung, wir sind jetzt müde, deswegen wurden gewisse Dinge einfach nicht

01:11:57.482 --> 01:11:59.562
mehr weiterentwickelt, weil sie nicht mehr verkauft worden sind.

01:11:59.562 --> 01:12:03.742
Das sind alles irgendwelche Gründe, die wir brauchen und die wir erzählen müssen

01:12:03.742 --> 01:12:08.622
in unserem Zeitstrahl für irgendeinen Status X, wo man sagt, so da sind wir jetzt.

01:12:09.802 --> 01:12:17.362
Und das ist schön, da können wir uns jetzt wieder frei austoben und hätte Bock auf den Sci-Fi-Motor.

01:12:17.362 --> 01:12:22.362
Und mit diesem Stichwort und einem kleinen Blick auf den Timer,

01:12:22.562 --> 01:12:24.722
der hier unerbittlich hoch tickt,

01:12:25.522 --> 01:12:29.222
würde ich uns jetzt mal in den Abend und euch, liebe Hörerinnen und Hörer,

01:12:29.742 --> 01:12:32.762
in den, weiß ich auch nicht, was auch immer ihr macht, in den Feierabend,

01:12:32.922 --> 01:12:37.582
ins Bettchen oder auch zur Arbeit, wo auch immer ihr gerade seid, hinschicken.

01:12:38.602 --> 01:12:42.422
Nochmal vielen, vielen Dank für die angeregte Diskussion letzte Folge war auch

01:12:42.422 --> 01:12:44.842
schon über eine Stunde, diese wird auch wieder über eine Stunde sein ich glaube,

01:12:44.922 --> 01:12:49.142
das zeigt wirklich nochmal die Intensität und es macht mir großen Spaß,

01:12:49.182 --> 01:12:53.542
macht mir vor allem auch großen Spaß mit euch zusammen den Science-Fiction-Motor anzuschmeißen.

01:12:53.682 --> 01:12:59.282
Ihr Lieben da draußen wenn ihr jetzt auch Bock habt, hier etwas beizutragen,

01:12:59.362 --> 01:13:02.682
einen Diskussionsbeitrag, könnt ihr uns zum Beispiel in den Kommentaren auf

01:13:02.682 --> 01:13:05.062
YouTube schreiben, was zum Teil genutzt wird.

01:13:05.302 --> 01:13:10.022
Ihr könnt aber auch direkt in unseren Discord kommen. Da ist der Link unten

01:13:10.022 --> 01:13:13.342
in den Shownotes verlinkt oder uns einfach eine Mail schreiben,

01:13:14.902 --> 01:13:22.462
an info at götterkomplex.de Es wird alles gelesen und wir antworten in der Regel

01:13:22.462 --> 01:13:25.742
auch, konnten hin und wieder mal ein Momentchen dauern, aber wir freuen uns

01:13:25.742 --> 01:13:27.822
da auf euren Austausch und wenn ihr mehr.

01:13:29.402 --> 01:13:33.122
Diskussionswürdige Themen habt, auch da sind wir über Themenvorschläge sehr,

01:13:33.262 --> 01:13:35.622
sehr gespannt und freuen uns da.

01:13:36.642 --> 01:13:41.982
So, jetzt aber. Ich würde mal sagen, wir huschen jetzt mal ins Körbchen.

01:13:42.022 --> 01:13:43.602
Es ist hier nämlich schon recht spät.

01:13:43.762 --> 01:13:47.382
Und ich würde sagen, ihr Lieben, wir verabschieden uns wie immer.

01:13:47.382 --> 01:13:52.722
Diesmal mit einem höchstmenschlichen Energie.

01:13:57.922 --> 01:14:01.542
Und zur Klarstellung, in der letzten Party Warhammer habe ich mich mit Philipp

01:14:01.542 --> 01:14:03.342
auf ein Unentschieden geeinigt.

01:14:03.862 --> 01:14:05.922
Oh, ich habe es gewusst.