Music.

Tag zusammen, hier ist der Götterkomplex, eure wöchentliche, naja, zweiwöchentliche Dosis Science Fiction. Mein Name ist Philipp und ich bin wie immer nicht alleine hier im Studio mit mir, der in Decken eingehüllte, unglaublich sexie Niklas. Hallöchen. Awe zusammen. Ja, schön, dass ihr wieder eingeschaltet habt. Es ist saukalt in meiner Wohnung. Ich habe keine Ahnung wieso, deswegen habe ich mich im römischen Stil jetzt auf mein Mikrofon gesetzt und freue mich auf den heutigen Tag. Es steht dir gut, insbesondere weil die Decke ein Weiß oder ein Beige ist, ganz im Gegensatz zu Otti, der sich nämlich mit einer dunklen bis grauen Decke eingehüllt hat. Es scheint kalt in eurer Heimatstadt zu sein. Hallo Otti. Schönen guten Tag an alle da draußen. Nee, nee, ich mime nur den Nazgul. Das ist so ein Hobby. Okay, gut.

Nicht, dass du noch andere seltsame Hobbys hättest, wie zum Beispiel einen Podcast über Science-Fiction, einen Podcast über Science-Fiction-Worldbuilding. Ja, herzlich willkommen auch euch da draußen an den Endgeräten, an den Hörgeräten. Ihr habt eingeschaltet mal wieder zum Götterkomplex und wir befinden uns in unserer Konzeptreihe. Das heißt, wir behandeln hier in verschiedenen Folgen ein Thema aus verschiedenen Blickrichtungen und versuchen zu schauen, wie wir dieses Thema in unseren Götterkomplex einbauen können, also in unser Science-Fiction-Universum, was wir gemeinsam mit euch erschaffen wollen. Und wir sind schon geraume Zeit zugange, uns irgendwie dem Thema KI zu nähern.

Und ich sag euch, ich sag uns, das war bis hierhin ein ganz schöner Ritt. Wir hatten fantastische Folgen, fantastische Einblicke und ja, interessante Momente, wo wir uns alle nochmal gedachten, ah, okay, wow, so läuft das und das wollen wir fortsetzen. Wir haben uns gedacht, wir machen uns jetzt mal auf die Reise und versuchen das Ganze mal ein bisschen über die Aktualität zu denken. Wir wollen eine kleine Diskussion starten und auch vielleicht mal die möglichen negativen Aspekte oder die Ängste, die es vor KIs gibt oder vor künstlicher Intelligenz gibt, ein bisschen zu beleuchten. Und der Niklas hat sich da aufgemacht und ein ziemlich langes Skript zusammengestellt, um uns mal Gedankenanstöße oder Impulse für die heutige Diskussion zu geben. Ich bin sehr, sehr gespannt, Niklas, was du vorbereitet hast. Denn hier auch der Disclaimer. Unser Vorgespräch war gerade ungefähr drei Minuten lang und wir haben abgesprochen, dass ich die Anmod mache. Das mache ich hier mit. Und alles Weitere schauen wir jetzt. Niklas, was hast du mitgebracht? Ja, danke erstmal für die Anmod. Was habe ich mitgebracht? Ein gigantisch volles Skript.

Wenn man sich so auf die Suche macht nach dem Thema KI, Risiken und Kritik an KI, dann wird man ja wirklich sehr schnell fündig. Da habe ich mich so ein bisschen gefragt, gibt es da draußen irgendwie sowas für eine allgemeine Skepsis an KI oder was ist da los? Wir waren doch erst so motiviert und irgendwie so voller, nicht Hoffnung, aber zumindest so beeindruckt von dem, was da so auf den Markt geschmissen worden ist die letzten Jahre und wir sich auch nicht nur Consumer-Verhalten, sondern auch irgendwie... Das Arbeitsverhalten auch verändert hat mithilfe von Large Language Models wie beispielsweise Chat-GPT. Und da haben ja auch Kritiken nicht lange auf sich warten lassen. Und ich kann mich daran erinnern, als wir angefangen haben mit dem Götterkomplex-Podcast, da kam das so gerade, dass man sich damit auseinandergesetzt hat, huch, also eigentlich das, was wir als Science Fiction sehen, das ist auf einmal da und unterstützt uns. Ich weiß nicht, wie es euch da ging, aber ich hatte schon trotzdem irgendwie ein mulmiges Gefühl bei der Sache, das mich dann bis heute auch irgendwie nicht losgelassen hat. Wie ging es euch denn dabei? Also ich kann sagen, ich habe so eine ähnliche Reise gehabt, dass ich in den Recherchen auch immer so ein bisschen gedacht habe, so boah, krass, was ist alles möglich und auch in diesem, ja in dem selber ausprobieren mit Chat-GPT oder mit KI, mit Journey, diese bildgenerierende KI, dass man immer erst so einen Moment hatte, boah krass, das ist möglich, das ist ja Wahnsinn.

Das ist bei mir aber gewichen. Also je mehr ich mich mit dem Thema beschäftigt habe, umso mehr habe ich mich auch damit beschäftigt, was eben nicht möglich ist. Und du hast es gesagt, es nimmt Einzug in die Arbeitswelt und ich bin davon überzeugt, dass man die Arbeitswelt in Zukunft neu denken muss. Und da hatten wir auch schon viele Impulse und es gibt ganz, ganz klar, ganz berechtigte Ängste, dass sich gewisse Dinge halt im Arbeitsmarkt so verschieben, dass wirklich die KI auch mit Sicherheit gewisse Sachen ersetzen kann. Ich hatte jetzt ja auch einmal zitiert in meinen Folgen in der Recherche auch die Aussage, wenn ihr Beruf irgendwas mit Sprache zu tun hat, dann kann das auch ein Large Language Model irgendwann in Zukunft machen. Und ach so, Sprache lässt sich ja auch, naja, also wenn man Sprache simulieren kann, dann lassen sich auch andere Dinge simulieren und dann geht das immer weiter. Also es ist hochaktuell, ich verstehe auch diese Ängste.

Ich bin jetzt ein bisschen frech und sage, das ist aber auch in der Historie eigentlich immer so, dass Dinge neu erfunden werden, Dinge ersetzen, Jobs und neue Jobs werden dazukommen und ja, man wird die Arbeitswelt neu an diese Dinge anpassen müssen, auf jeden Fall. Aber diese große Angst vor der mächtigen KI im Sinne jetzt von Science-Wiction-Dystopien und diesen ganzen, sag ich mal, oh Gott.

Wird uns die KI in Zukunft als Feind sehen und uns vernichten und all diese Bewusstseinstheorien und so weiter und so fort. Selbst wenn sie zum Teil technisch möglich sind, bin ich da aber sehr, sehr, sehr optimistisch und gar nicht so, hab da gar nicht so diese krassen, bösen Szenarien im Kopf. Also das ist gewichen. Die Angst vor dem Arbeitsmarkt und all diese Sachen und Skepsis auf jeden Fall, das bleibt. Ich fand den Punkt, Orti, den du da an, du hast ein Wort benutzt, dass eine gewisse Skepsis bei allen historischen Veränderungen irgendwie da war oder spürbar in der Menschheit, in der Menschheitsgeschichte. Und ich glaube, das ist eher das vornehmliche Gefühl, gerade zu Beginn, Niklas, so das gefragt, wieso der erste Kontakt war eigentlich mit dieser KI, mit diesen neuen Möglichkeiten.

Und ich hatte ein ganz interessantes Gefühl, was ich bislang in meinem Leben noch nicht so mega häufig hatte. Ich hatte echt irgendwie das Gefühl, dass wir an so einem historischen Punkt gerade sind. Dass also Dinge wahr werden, Dinge möglich werden, Dinge technisch möglich werden, die man sich wirklich vorher nur in der Science-Fiction irgendwie ausgedacht hat. Ich meine, wir sind alle keine Computer- oder künstliche Intelligenzexperten, die das vielleicht schon seit 30 Jahren auf dem Schirm haben, dass es sehr wohl in diese Richtung gehen kann. Das heißt, es kam für mich so ein bisschen wie Kai aus der Kiste und habe mich einfach irgendwie in so eine ganz seltsame Art von, Erstaunen gezogen, in so einen magischen Bann, in so ein, wow, das ist möglich, gleichsam aber natürlich auch irgendwo gepaart mit dem Wissen, hier passiert irgendwie was Größeres als irgendwie so eine Erfindung, die, naja, vielleicht auch wieder verpufft. Irgendwie hatte man schon oder hatte ich schon das Gefühl, das ist auch geblieben, dass das mehr ist als eine Erfindung, sondern dass wir hier eigentlich schon, oder es gibt ja auch Leute, die über eine industrielle Revolution sprechen oder das dem gleichsetzen.

Ich kann das jetzt nicht widerlegen oder auch nicht bestätigen, aber ich könnte mir schon vorstellen, gefühlt geht es zumindest bei mir in diese Richtung, dass da wirklich was Epochales, Historisches passiert. Davon bin ich im Übrigen auch überzeugt. Also das, was du sagst, dieser Wendepunkt und dass wir gerade etwas, also an einem Punkt stehen, wo etwas komplett bahnbrechendes, neues Einzug hält, von dem wir nicht genau wissen, welche Auswirkungen das hat, das denke ich auch. Und ich denke auch, dass das eine Sache ist, die nicht mehr wegzudenken ist, von der wir, aber die ist so schlecht greifbar. Das ist so manchmal wie so ein interessantes Gimmick. Dann spielst du manchmal ein bisschen mit, dann denkst du, ach, das ist ja gerade beeindruckend, vielleicht nutzt du das mal an der einen oder anderen Stelle, dann legst du es wieder weg und man kann es so noch nicht wirklich einschätzen, was sind die jetzt wirklich die Folgen, was verändert das alles. Aber dass das passiert und dass wir an so einem Punkt sind, wo KI nicht mehr wegzudenken ist und irgendwie in den Alltag und auch in den beruflichen Alltag komplett Einzug halten wird, davon bin ich auch überzeugt, ja. Ja, vor allen Dingen auch in unser Privatleben. Das hat sich ja schon eingeschlichen. Also wenn ich jetzt überlege, wie ich arbeite, dann möchte ich auf meine Large Language Models ja irgendwie auch nicht mehr verzichten. Jetzt ist es aber so dass wenn man jetzt mal versucht mal so eine Stimmung abzufragen wie stehst du denn da eigentlich zu, heute ist passiert in einem Seminar, ich habe ein paar Schüler gefragt, wie steht ihr denn eigentlich zu dem Thema.

Hat der Großteil ja doch irgendwie gesagt, doch irgendwie skeptisch also irgendwie macht mir das Angst, tatsächlich, das fand ich sehr sehr erstaunlich.

Und da sind die auch nicht alleine, ich habe mal eine Schlagzeile gefunden in der Tagesschau-Redaktion das ist jetzt gar nicht so lange her, Die lautet wie folgt. Führende Experten warnen davor, die Risiken künstlicher Intelligenz zu unterschätzen. Sie bewerten die Gefahren durch KI ähnlich hoch wie bei Pandemien oder einem Atomkrieg. Das ist eine Stellungnahme gewesen, die ist, und das finde ich sehr interessant, auch unterschrieben worden vom Chef des Chat-GPT-Erfinders Open AI, nämlich Sam Oltman, aber auch andere wie zum Beispiel Bill Gates. Und ich finde, gerade bei diesen Menschen sollte man hellhörig werden. Und wenn man sich das mal durchliest, was die da zusammengetragen haben, unterschrieben haben, dann empfehlen die oder postulieren die sowas wie einen dringenden Handlungsbedarf zu einer Risikominderung. Die haben so vier Punkte aufgeführt, wovor sie konkret waren und das fand ich schon recht erstaunlich. Einmal die Gefahr der sogenannten Malicious Use, also der böswilligen Nutzung, sodass KI halt absichtlich für Schaden eingesetzt werden kann. Dann gibt es die Warnung vor dem sogenannten KI-Race, also KI-Renn, A-I-Race. Das ist ja irgendwie sowas wie ein Wettrüsten der KI-Entwickler, die halt zu Risiken führen kann, die wir gar nicht überschauen können zum jetzigen Zeitpunkt, zum Beispiel eine neue Form von Cyberkriegsführung unter anderem.

Dann haben die außerdem gewarnt vor sogenannten organisatorischen Risiken. Das heißt, selbst wenn mit guter Absicht etwas entwickelt wird, kann es im Use Case ja trotzdem noch zu Unfällen kommen. Und dann haben wir als letztes die Warnung vor sogenannten Rook-AIs. Das sind die sogenannten abtrünnigen KIs. Das heißt nicht, dass eine KI jetzt loszieht und irgendwas kaputt macht, sondern es geht eigentlich eher darum, dass man schon wirklich aufhorchen, finde ich.

Ich finde das also super spannend. Ich glaube auch jeder Punkt von dem, den du da vorstellst, der ist absolut legitim und wir sind jetzt in einer Situation, wo diese Dinge wirklich besprochen werden müssen und auch wirklich durchdacht werden müssen. Da ist ja auch immer diese Debatte, die EU hat ja schon angefangen Richtlinien zu entwerfen und auch gewisse KIs zu stoppen oder die Anwendung von KIs zu stoppen. Andere Länder machen das nicht. Ich bin auch immer so ein bisschen frech und sage natürlich sagen die das, weil das natürlich auch ein unglaublich guter Werbesprech ist. Und jetzt hat ja auch der Chef von ChatGPT gesagt, ja, wir wissen, wie man Superintelligenz bauen und entwickeln kann. Das ist, also ich bin, du hast auf jeden Fall einen Punkt und ich finde, alle Punkte haben eine Daseinsberechtigung, aber dass genau diese Leute davor warnen, macht das Thema so interessant. Und die gesellschaftliche Debatte, die ist dann richtig angefeuert und wenn man dann noch sagt, wir haben übrigens die super Intelligenz von morgen, und alle wollen nämlich eben mitrüsten, das was du da angesprochen hast, das Wettrüsten von KI, dann möchte ich natürlich der große Big Player sein, der im AI-Business unterwegs ist und mir fällt immer mehr auf, dass ich dann schon auch manchmal denke, okay ähm.

Man muss das durchdenken auf jeden Fall, diese Risiken muss man vernünftig an der Stelle von den wirklichen Experten diskutieren und die Frage ist, ob das dann wirklich gemacht wird und ob sich die Firmen auch darauf einlassen, diese Regeln, wenn es denn dann welche gibt, wenn sie entwickelt werden, ob man sie denn einhalten will oder ob man sagt, das macht uns doch den Markt kaputt. Und das finde ich ist eben sehr, sehr, sehr spannend, auch an diesem ganzen Rennen, weil Philipp ja auch diesen Wendepunkt angesprochen hat, denn das sind Voraussetzungen, dass wir uns jetzt darum kümmern, dass solche krassen Entwicklungen, die man nicht mehr kontrollieren kann, dass sie gar nicht erst passieren.

Ja, wenn man sich auch mal anschaut, wie Länder wie Deutschland darauf reagieren, muss man schon sagen, dass diese Sorge, die da transportiert worden ist, auf uns schon irgendwie übergeschwappt ist. Ne, also versucht er hierzulande nicht sowas wie eine Reglementierung zu machen, da verlässt man sich so ein bisschen auf die EU-Ebene, sondern es gibt, Handlungsempfehlungen, da ist zum Beispiel ganz weit vorne das Bundesamt für Sicherheit in der, Informationstechnik, die hat neulich erst wieder eine Publikation rausgehauen zu den Chancen und Risiken großer KI-Sprachmodelle das in deutscher und englischer Sprache, das ist so ein 36-seitiges Dokument, das habe ich im Übrigen mal in die Show Notes gepackt, dass ihr euch das mal durchlesen könnt, ähm.

Das adressiert vornehmlich an Unternehmen und Behörden, die halt Large Language Models in ihre Arbeitsabläufe irgendwie integrieren möchten. Und ja, das kann man dann als Grundlage für eine Risikoanalyse nutzen. Das heißt, man versucht den Menschen schon irgendwie was in die Hand zu geben, wo man sagt, pass auf, wenn ihr da irgendwie in irgendeiner Form Zweifelsgruppel habt oder sonst was, hier haben wir Möglichkeiten und Handlungsempfehlungen. Auf der anderen Seite geben wir das auch den Menschen an die Hand, die sich vielleicht darüber auch noch nicht so viele Gedanken gemacht haben. Was ich da sehr interessant finde, ist, wenn man das vergleicht mit der Wahrnehmung von Large Language Models und allgemein künstlicher Intelligenz im öffentlichen Raum, wird schon klar, dass es doch vielleicht eher darum gehen kann zu beruhigen. Denn ich habe jetzt relativ aktuelle Zahlen bekommen von dem Statistica Research Department. Die Zahlen sind vom 9.1.2025.

Und da sieht es gerade so aus in Deutschland, dass laut der im letzten Jahr erstellten Umfrage 24 Prozent der befragten KI für eine potenzielle Gefahr halten. Und das ist so ein bisschen widersprüchlich zu dem, wie ich den Use Case von KI und auch irgendwie die Position zu KI irgendwie wahrnehme. Wenn ich nachfrage, bekomme ich ein gegenteiliges Bild. Wir benutzen es zwar, aber anscheinend gibt es dort eine sehr gesunde Skepsis in unserem Land. Und das fand ich sehr beeindruckend. Genau, das wollte ich tatsächlich fragen, wer hat denn teilgenommen an der Umfrage? Also wird das in Deutschland durchgeführt? Das ist in Deutschland durchgeführt worden, ja. Und diese, also ich fand das interessant, du hast ja gesagt, ich habe die Schüler gefragt und du hast jetzt gesagt, die haben, sehen das als Gefahr, ähm. Jetzt finde ich, müsste man das ein bisschen differenzieren. Das ist ja relativ platt zu sagen, ich sehe das als Gefahr.

Denn ich verstehe sehr wohl, dass man sagt, ich sehe das als Gefahr für meinen Arbeitsmarkt. Philipp hat ja auch schon mal so Sachen angesprochen. Ey, ich bin jetzt hier im Medienbusiness und jetzt kann die KI Bilder zum Beispiel generieren, ich verliere meinen Job oder ich bin Schreiberling für irgendwas. So eine Scheiße, davor habe ich Angst. Oder ist es eben die Angst vor den Aspekten, die du angesprochen hast, von dieser Unkontrollierbarkeit, von dem Missbrauch von KI, weil das ja, ich sag mal, das ist ja die Frage, wie in unserer Gesellschaft KI-Akzeptanz entstehen kann, wenn ich einen Use Case sehe und sage, ey, das ist cool, das bringt mir was, ich nutze das gerne. Oder ich wirklich Angst vor Kriegen habe, vor diesem Missbrauch, was ich sowieso in meinen privaten Diskussionen, wird ganz viel von diesem Deepfake-Missbrauch, dass also quasi die KI-Videos von etwas generiert, das so gar nicht stattgefunden hat, also eine Präsidentenrede fälscht oder vielleicht auch die Klassenkameradin den Klassenkameraden in der Situation darstellt, die unschön ist und man verbreitet das in den sozialen Medien. Das sind für mich so nahbare Sachen, wo ich sage, da habe ich direkt Angst vor. Und das andere Krieg und Entwicklungsmissbrauch von KI, das sind ja eher abstraktere Themen. Deswegen wäre ich einmal so frech und würde fragen, was war so das Meinungsbild der Schüler oder konntest du da in dieser Studie da etwas mehr differenzieren? Wovor haben die Leute Angst? Also ich habe die Studie, also den Link zu den Zahlen, habe ich euch natürlich in die Shownotes gepackt.

Ich kann erstmal nur von heute berichten, weil ich das ein bisschen persönlicher und ein bisschen eindrucksvoller fand, denn ich habe auch nachgefragt, was findet ihr denn letztendlich da so komisch dran in der ganzen Geschichte.

Und die sehr undifferenzierte Rückmeldung war, das ist mir irgendwie unheimlich. Ich weiß, ich schreibe mit einer Maschine und habe das Gefühl, dass ein Mensch vor mir sitzt. Da haben alle ganz eifrig genickt. Das muss man sagen, dass die Schülerinnen und Schüler, die waren so 16 Jahre alt ungefähr. Auf die Frage hin, ob sie denn Large Language Models wie ChatGPT benutzen, haben alle mit Ja geantwortet. Und auf die Frage, wie sie denn letztendlich oder woher diese Skepsis letztendlich kommt, war das subjektive Gefühl ganz weit vorne, also dieses komische Gefühl von, ich schreibe hier irgendwie mit einer Maschine und es fühlt sich so menschlich an, das finde ich irgendwie gruselig das ist Punkt Nummer 1, Aber das, was auch kam, war, ja, wir haben ja schon mit unseren Lehrern in verschiedenen Fächern über das Thema KI irgendwie gesprochen in ganz vielen Zusammenhängen. Und da ging es auch ganz oft anscheinend um das, was Orti gerade sagte, nämlich der Missbrauch von KI-Tools, die frei zugänglich sind, die mit Bild- und Videomaterial beispielsweise arbeiten.

Diese Sensibilisierung ist natürlich notwendig, wenn man so ein bisschen im pädagogischen Bereich unterwegs ist, dann wissen wir auch, dass im Horizontalen letztendlich auch die sogenannte Medienkompetenz eine Kompetenz ist, die es zu vermitteln gilt und da spielt natürlich auch der Use Case KI mittlerweile eine große Rolle. Ja, aber da scheitern wir ja auf voller Linie schon bei sozialen Netzwerken und also ich sag mal, ich finde ja natürlich, da hast du recht, aber das ist so, wo ich denke, naja, aber dann hast du mal irgendwie zwei, drei Stunden soziale Medienkritik und dann sagt man Achtung, das und das postet man auf Facebook aber nicht und dann war es das, also so richtig kompetent bilden wir ja gar niemanden aus und die Schulen würde ich jetzt mal mutmaßen. auch nicht dementsprechend ausgebildet sind. Da kann ich euch noch andere Geschichten erzählen. Da sind wir total hinterher. Aber trotzdem findet die Diskussion im Klassenzimmer statt und das finde ich erstmal in Ordnung. Das ist ja gut so, auf jeden Fall. Von meiner Warte aus. Wir befinden uns ja nun mal aktuell im Wahlkampf. Das bedeutet, wir stehen kurz vor vorgezogenen Neuwahlen in Deutschland.

Vor diesem Prozess dann auch genau für das Thema Deepfakes zu sensibilisieren, die ermöglicht werden können durch KI-Tools, die auf Large Language Models basieren, ist auch nicht der falsche Weg. Und jetzt mal zurück zum Thema zu kommen. Ich betrachte aber genau solche Diskussionen auch als Mit- Hauptverantwortungsträger für eine Skepsis, die es anscheinend hierzulande gegenüber von KI gibt oder gegenüber KI gibt. Was ja erstmal von meiner persönlichen Warte aus auch erstmal völlig in Ordnung ist. Ich rutsche die ganze Zeit hier schon auf den Stuhl rum, weil ich da zu diesem Deepfake-Ding glaube ich, das schließt sich gerade So ein bisschen der Kreis. Wir haben in der letzten Folge darüber gesprochen, wie eine weitergehende KI-Entwicklung aussehen könnte, insbesondere auch im medialen Bereich oder im Kulturbereich. Und da haben wir gesagt, dass uns immer diese immer gleichen oder sehr ähnlichen KI-Vorgekauten Inhalte eventuell auch langweilen können. Und dass es so eine Rückbesinnung auf tatsächlich zum Beispiel Theater oder also Mensch-Mensch-Interaktion kommt. Was ich ganz interessant finde bei dieser ganzen Deepfake-Diskussion ist ja im Endeffekt, dass man keinem Bild mehr trauen kann und keinen Videoaufzeichnung mehr trauen kann. Der Witz ist... Wir konnten das und hätten das niemals gedurft. Und wir konnten das auch noch nie.

Also selbst das erste, also ein Foto, also ein doofes Foto ist immer aus der Sicht des Fotografens und der vielleicht den Ausschnitt komponiert. Da fängt es an.

Fotoretuschen sind so alt wie die Fotografie selber. Und ich will damit sagen, wir haben vor Fotografie und vor Videoaufnahmen haben Menschen Zeitungen konsumiert. Da saß ein Redakteur. Der Mensch war nicht bei dem Ereignis dabei und er hat auch nur, der im Idealfall, also der, sagen wir mal, der normale Arbeiter zum Beispiel, hat ja nur eine Zeitung konsumiert. Das heißt, er hat den Sachverhalt, um den es hier ging, nur von einem Redakteur in schriftlicher Form gelesen. Was ich damit sagen will, ist, ich glaube, dass sich unsere Gesellschaft wieder daran gewöhnen muss oder noch stärker sozusagen wieder darauf zurückbesinnen muss, dass es hier eine Vertrauensfrage ist. Wer ist der Absender der Botschaft und, glaube ich, diesen Inhalt? Und ich halte das für wirklich zentral, dass wir wirklich keinem Bild, keinem Video oder irgendwas mehr vertrauen. Das ist ja überall möglich und vor allem es war immer schon möglich, das Video, das Bildmaterial so zu bearbeiten, wie es der Absender gerade wollte. Und sind wir mal ganz ehrlich, also ich finde das mega spannend, weil es gibt so, weil ich hatte auch jetzt ein langes persönliches Gespräch auch mit einer sehr, sehr guten ehemaligen Kollegin, die auch gesagt hat, die auch diese Skepsis hat und die auch sagt, boah, diese Deepfake-Sachen und so, das macht mir alles Sorgen und ich habe auch ein bisschen argumentiert und habe gesagt, naja, aber zum Beispiel falsche Berichterstattung oder Propaganda oder Dinge in einem anderen Kontext setzen.

Fotoretuschen und so weiter und so fort, das gibt es schon lange. Das ist ein anderes Medium, ist klar. Und das ist auch ein Medium, wo man sagen kann, ich kann echt und unecht nicht voneinander unterscheiden. Aber das ist genau das, wo ich denke, das ist in dem Kontext super wichtig zu wissen, was sind meine Quellen. Diese Kritik zu hinterfragen, ist das echt, ist das nicht echt. Und das passiert ja jetzt auch schon ohne diese ganzen Deepfakes, wie viele Berichte werden gefaked und so weiter und so fort werden in den sozialen Medien geteilt, das ist für mich nicht immer ein Phänomen, das ist ein Phänomen des Menschen das ist so wie.

Auch Mobbing, Mobbing hat eine andere, hat jetzt andere Möglichkeiten, das moderner umzusetzen, aber das hat es früher auch schon gegeben und es war früher genauso schlimm, wie es heute ist und es muss auch, natürlich muss dagegen was gemacht werden. Ich möchte auch noch mal in aller Deutlichkeit Lob an alle engagierten Lehrer aussprechen, die das wirklich in ihrem Unterricht bearbeiten. Ich sage nur, weil ich mich gerade so kritisch geäußert habe, das möchte ich gar nicht so böse sagen, es ist nur so ein bisschen auch meine Erfahrung, dass Deutschland immer, sag ich mal, zehn Jahre zurückhängt in dem, was man wirklich jetzt tun müsste, um 16-jährigen Jugendlichen wirklich eine Medienkritik, eine Informationskritik aneignen zu können. Und dafür muss ein ganz anderer Lehrplan her. Das ist aber vielleicht nochmal ein ganz anderes Thema. Nur, genau, also die Debatte brauchen wir auch nicht führen. Nur ich wollte mich da so ein bisschen wieder zurückhalten und es gibt super engagierte Lehrer. Nur das Ding ist halt eben, ja, das Medium ist ein anderes oder das Mittel ist ein anderes, aber das hat es schon immer gegeben und KI gibt uns neue Möglichkeiten, das Gleiche zu tun. Falsch Informationen zu streuen oder Missbrauch mit Videos und sonst irgendetwas zu betreiben. Es ist aber kein neues Phänomen.

Ganz genau. Ich möchte da vielleicht eine Sache ergänzend noch zu sagen, weil wir gerade mal kurz bei diesem Schulthema gewesen sind. Und das geht jetzt mal kurz an die Hörerinnen und Hörer da draußen. Wenn ihr mal Bock habt, euch zum Thema Deepfake und Fake News zu informieren. Die Kultusministerkonferenz und die Bildungsministerien der Länder haben eine Webseite. Und auf diesen Webseiten kann man sich Infomaterial und Schulungsmaterial umsonst zu diesen Themen herunterlagen. Und die sind wirklich gut aufgearbeitet. Das heißt, wenn es da wirklich mal Interesse gibt, ein bisschen tiefer in dieses Thema einzutauchen, dann sei hier mal der Hinweis gestattet, dass man sich dort informieren kann und entsprechendes Material bekommen kann. Glaubt ihr denn, wenn wir bei diesem spannenden Thema sind und mal einmal den Science-Fiction-Motor anschmeißen?

Philipp hat einmal argumentiert in der letzten Folge, man ist es irgendwann leid und man wird unsicher. Wir haben gerade darüber gesprochen, ich weiß irgendwann nicht mehr, was die Realität ist. Es gibt so viel Content, so viel Material und ich als Mensch oder ich als Gesellschaft, ich als Gesellschaft, ja genau, wir als Gesellschaft sind unsicher.

Ähm, sorry. Also wir als Gesellschaft, wir sind so verunsichert in diesem ganzen Wulst, weil wir weder den, sag ich mal, öffentlichen, rechtlichen, noch den sozialen Medien, noch unseren Nachbarn und so weiter trauen und unsere Türen zumachen, weil wir nicht mehr trennen können, was wirklich ist und was nicht wirklich ist in diesen sozialen Netzen und was auch immer, was im Netz alles kursiert. Glaubt ihr denn, dass es möglich ist, dass eine Gesellschaft, das war so meine Argumentation, dass man vielleicht irgendwann sagt, wir haben ja auch über Reglementierung gesprochen, dass man sagt, solche Sachen müssen ein Wasserzeichen bekommen. Jetzt mal so ganz blöd. Also quasi, dass ein Video, ein Deepfake-Video als Deepfake-Video gekennzeichnet werden muss. Hier handelt es sich um digitalen AI-Content, künstlich generierten Content. Glaubt ihr, dass man sowas durchsetzen kann? Natürlich wird es da auch Missbrauch geben und es wird auch versucht, dann solche Wasserzeichen zu entfernen und, und, und. Aber dass man generell sagt, okay, das ist, es wird so reglementiert, dass man sowas reinsetzt und man sagt, okay, ich erkenne. Ich glaube, technisch müsste es, wenn, andersrum laufen.

Also technisch müsste es eher so sein, dass Bilder, die unbearbeitet sind oder die eine gewisse oder nicht KI generiert sind, dass die eher ein Gütesiegel bekommen müssen. Zum Beispiel. Das ist hier Proven, Re-Content, keine Ahnung. Wobei da auch die Frage ist, zählen da auch Filter?

Zählt da auch eine Photoshop-Bearbeitung? Jedes Bild, was man sieht, ist in irgendeiner Form bearbeitet? Da könnte man ja Kriterien sagen, es gibt jetzt zehn Güte-Kriterien und dann kriegt dieses Siegel in Anführungsstrichen, das ist ein echtes Video, eine echte Aufzeichnung. Ich persönlich glaube, dass das nicht funktioniert, weil ich glaube, der Aufwand ist viel zu groß und die Anfälligkeit ist zu groß, dass es tatsächlich gehackt werden kann oder gehackt werden wird. Ich könnte mir eher so etwas, einen eher unreglementierten.

Stillschweigenden gesellschaftlichen Konsens vorstellen, nämlich, dass es etablierte Medienhäuser gibt, etablierte Publizisten gibt, die ihre Aufgabe machen. Nachkommen, nämlich Informationen zu sammeln, Informationen zu trennen nach wahr, nach unwahr, nach fake, nach nicht fake, Informationen zu sortieren und die in einem Thema aufzubereiten. Also sprich klassischer Journalismus. Ich glaube, dass es tatsächlich Institutionen heute bereits gibt und die wird es auch wahrscheinlich weitergeben. Also ich glaube, das ist im Grunde eine Vertrauensfrage. Wie ist es auch nach wie vor. Ja, also weil ich glaube zum Beispiel einfach erstmal schlicht meiner Frau, wenn sie mir, weil du gerade dachtest, du hast es ja weiter runtergebrochen, bis in den Nachbarn rein, bis in die Familie rein und ich glaube zum Beispiel erstmal per se, wenn meine Frau irgendwas auf der Straße sieht, davon ein Foto machen und mir das schickt, glaube ich erstmal, dass das definitiv unbearbeitet ist, weil das halt von meiner Frau kommt und das ist halt ein Ein-Uhr-Vertrauen und ich glaube auch, dass wir für uns Medienhäuser eben definieren und da gebe ich dir recht, diese Medienhäuser, die müssen strengen Regularien unterliegen, also da muss es wirklich klar sein, dass es journalistische.

Werte gibt. Es ist einfach wirklich journalistische Werte, eine Recherchepflicht und so weiter. Das muss hochgehalten werden, sodass wir hier grundsätzlich über Vertrauen reden. Ich möchte halt einfach nochmal an die Zeitungen erinnern, die auch ein gewisses Vertrauen genossen haben. Gerade zu Zeiten, wo es noch keine Bilder gab und noch keine Bewegtbilder und Tonaufnahmen gab, sondern wo es einfach nur diese Zeitungen gab und wo eine Rede von irgendeinem Politiker abgedruckt wurde, Es wäre ja ein einfaches gewesen, diese Rede zu kürzen, zu verdrehen oder einen anderen Software hinzuschreiben, aber das gab es halt nicht. Und deswegen glaube ich das so. Naja, es gibt ja auch sowas wie einen Kodex bei Journalisten.

Eine Selbstregulierung in irgendeiner Form, das schon dafür sorgt oder eigentlich dafür sorgen soll, dass man versucht, Quellen in irgendeiner Form zu verifizieren, denen nachzugehen und so weiter. Also ich finde den Gedanken von Philipp erstmal gut, dass solange es irgendwie in irgendeiner Form Journalismus gibt, der sich selbst verpflichtet ist oder auch den Menschen, denen sie Nachrichten zukommen lassen, dass wir dann doch die Chance haben zu erfahren, ob etwas in Ordnung ist oder nicht. Also das Thema Vertrauen spielt eine ganz große Rolle. Das macht ja auch viel für unsere Science-Fiction-Geschichte, wenn man dann wirklich sagt, okay, es gibt einige wirklich zertifizierte Rechercheinstitute oder sonst irgendetwas, wo man sagt, okay, die haben diese Regeln und da kriegst du Informationen, die möglichst ungefiltert sind, jetzt in Anführungsstrichen oder nach diesen Richtlinien funktionieren. Finde ich, ist das auch eine spannende Erzählung, denn ich gebe dir recht.

Philipp, was du gesagt hast, einmal sozusagen mit der Polizei, die jetzt nach Content guckt und sonst was, dafür wird es, glaube ich, viel zu viel Müll im Internet geben, dass du dem nicht her wirst, also du kannst das dann einfach nicht kontrollieren. Es gibt dann, es ist ja so wie mit Facebook, wo du jetzt, wenn du Missbrauch Sachen meldest und so gibt es ja auch Leute, die ständig gucken, was für Inhalte da drin sind, die da eigentlich nicht drauf sein dürfen auf diesen sozialen Netzwerken und die nehmen die runter. Das schaffen die aber alle gar nicht, letzten Endes. Das heißt also, ich würde schon sagen, ja, das ist ein Thema. Nein, du musst, glaube ich, da unterscheiden. Du hast gerade nämlich genau die Unterscheidung nicht getroffen. Du redest von Medienhäusern auf der einen Seite und nennst Facebook direkt im... Ja, ja, nee, genau, das ist nicht das Gleiche, ist klar. Genau, und das muss man, glaube ich, ganz klar trennen. Also zum Beispiel habe ich den Eindruck, und da bin ich ziemlich von überzeugt, weil ich auch weiß, wie die Kollegen arbeiten, dass zum Beispiel unsere Newsredaktion, also ich arbeite beim Deutschen Medienhaus, beim Deutschen Fernsehmedienhaus, und da weiß ich, dass da ganz sicherlich journalistische Standards aber sowas von hoch gehalten werden. Und Kollegen, die sich da vertun oder nur vom Hören sagen, irgendein Gerücht in die Welt streuen, da aber achtkant rausfliegen beziehungsweise massive Probleme haben und.

Ich möchte auch den Erzählungen nicht aufsitzen, weil diese Erzählungen sind letztlich von extremistischen Kräften in dieser Gesellschaft erzählt oder geschürt.

Dass man diesen etablierten Medienhäusern eben nicht mehr trauen kann. Also das ist ja genau das Phänomen, was wir in der Gesellschaft haben und das ist ja auch so etwas, wenn man sagt, KI generierte Deepfakes und sonst irgendwas, das ist ja ein unglaubliches Machtinstrument und wir sehen ja, dass eben, also du sprichst da über Vertrauen in den Medien und genau das will unsere Gesellschaft ja im Moment nicht mehr wahrhaben. Die sind ja dann eher eben in den anderen Medien unterwegs, in den sozialen Netzwerken, wo eben genau diese Richtlinien nicht greifen und unsere politische Situation verändert sich radikal. Wenn du in die Zukunft spinnst, in die Zukunft weitergehst, kann es nur so funktionieren, dass wieder ein gewisses Maß an Vertrauen hergestellt wird und wir ganz klar trennen zwischen, das ist Unterhaltung, das ist für mich ein soziales Medium, also wo ich mich mit Freunden treffen kann, virtuell, das wird ja dann mit, was weiß ich, noch irgendwie ausgebaut mit Metaverse und so weiter, worüber ich aber keine Informationen generiere. Und ich glaube, da sind wir nicht. Da sind wir noch lange nicht. Aber das ist vielleicht so meine heere utopische Vorstellung.

Aber ich glaube, nur so kann funktionieren.

Der Großteil dieser Menschen angab, dass wenn sie auf der Suche nach Informationen sind im Netz, TikTok bemühen. Und das fand ich schon furchtbar erschreckend, muss ich sagen. Gehen wir mal bitte einmal kurz zurück auf das Thema KI, also unser Kernthema eigentlich. Wir haben jetzt gerade festgestellt, dass wir eigentlich ein systemisches Problem letztendlich sehen, nämlich, dass wir hier ein neues Tool haben oder eine neue Möglichkeit haben und wir eigentlich nicht so ganz genau wissen, wie es funktioniert und deswegen da auch eine gewisse Skepsis kommt und wir schon erfahren haben.

Dass auch dieses neue Tool dazu eingesetzt werden kann, Menschen zu schaden. Und ich glaube, dass diese Skepsis, die da entstanden ist, mitverantwortlich dafür war, dass einige Länder dieser Welt entschieden haben, dass es hier Handlungsbedarf gibt und dass man hier Regeln aufstellen muss. Und da ist ganz prominent erstmal die EU, die im August letzten Jahres die KI-Gesetze auf den Weg gebracht hat. Das ist ein Rahmenkonstrukt, an dem man sich so ein bisschen orientieren kann. Das wird noch ausgebaut. Also es ist auch so aufgebaut, dass man es ausbauen kann. Das möchte ich euch mal ein Kürze vorstellen, damit man so ungefähr weiß, worum geht es denn eigentlich. Wird ja viel darüber erzählt, aber am Ende ist es recht easy zu verstehen.

Der Grund, warum man das überhaupt gemacht hat, ist, man möchte Vertrauen auch in KI schaffen, denn man darf nicht vergessen, das ist ein Markt und Europa möchte natürlich auch in diesem Markt existieren und möchte auch von diesem Markt profitieren, das ist klar. Und das bedeutet auch, dass den europäischen Unternehmen die Möglichkeit gegeben werden muss, diese Technologie sicher zu nutzen, in einem Rahmen zu nutzen, der mit unserem Werteverständnis irgendwo einhergeht, um dann irgendwie auch in der Welt nicht den Anschluss zu verlieren. Da setzt natürlich auch die Kritik an diesen Gesetzen an, dazu später aber mal, da können wir auch gerne drüber diskutieren. Also das ist der Grund, man will irgendwie Vertrauen in diese KI auch schaffen, in diese Möglichkeiten schaffen, aber auf der anderen Seite auch klar machen, dass es Risiken gibt und die in irgendeiner Weise ausgrenzen aus dieser ganzen Geschichte. Und abgesehen davon, dass die EU da eine Vorreiterrolle haben möchte, wenn es darum geht, ethische und nachhaltige Entwicklung von KI irgendwie zu fördern, kann man sich natürlich schon fragen, wie hält es in der Rest der Welt und ja, passt das eigentlich so? Ich halte es für ausgesprochen sinnvoll. Was hat die EU jetzt gemacht? Man hat die KI-Gesetze in sogenannte Risikostufen eingeteilt. Wir haben minimales Risiko, begrenztes Risiko, hohes Risiko und das inakzeptable Risiko.

Minimales Risiko in Bezug auf KI, davon spricht man, wenn man über Tools spricht, die zu freien Nutzung zu verfügbar sind, zum Beispiel KI in Videospielen oder Spamfiltern oder irgendwie sowas. Dann gehen wir mal nochmal einen Schritt höher, dann haben wir tatsächlich schon das begrenzte Risiko, das sind KI-Systeme mit potenziellen Transparenzproblemen, so nennt man das zum Beispiel, wie beispielsweise gewisse Formen von Chatbots, die halt um, Jetzt im Nachhinein klar als KI auch gekennzeichnet werden müssen. Da haben wir jetzt wieder den Dreh, den wir vorhin schon mal in der Diskussion hatten. Das heißt, man möchte eigentlich, dass Tools, die mit Large Language Models arbeiten, die so etwas wie eine Menschlichkeit in irgendeiner Form simulieren können, auch als solche gekennzeichnet werden sollen.

Auch die Kennzeichnung von Deepfakes ist das Ziel. Also im Prinzip genau das, worüber wir gerade geredet haben. Philipp ist der Meinung, das kriegen wir eigentlich nicht hin, das muss eher ein Vertrauensding sein. Ich finde es gar nicht so schlecht, wenn man sich dazu verpflichtet zu sagen, alles das, was mit einer KI erstellt worden ist, wird auch automatisch mit einem Stempel versehen. Ja, vielleicht muss man halt einfach, also klar, das ist ja auch Teil der Diskussion gleich, aber es ist halt ein EU-Ding, ich finde das super, ich finde das genau richtig, es ist halt genau das Ding, das ich sagen kann, ja, ich kann trennen, ich rede hier mit einer unglaublich beeindruckenden KI, ja, das ist vielleicht wie, als würde ich mit Menschen sprechen, aber ich weiß, das ist ein Chatbot und ich weiß, das hier ist gerade ein Deepfake, das ist eine unglaublich gute Regelung, nur weltweit, ja. Anderes Thema, lass uns da gleich drüber sprechen. Kommen wir zur nächsten Abgrenzungsstufe, nämlich KI-Systeme mit sogenannten hohen Risiko und die werden jetzt auch mit strengen Regeln letztendlich versehen. Hier geht es um KI-Systeme in kritischen Bereichen, beispielsweise Gesundheit wie robbergestützte Chirurgie in der Bildung, wie zum Beispiel Systeme zur Prüfungsbewertung oder Bildungszugänge steuern und so weiter. Dann gibt es KI-Tools in Bezug auf die Arbeit. Zum Beispiel CV-Sortiersoftware für Bewerbungsverfahren und sowas alles.

Strafverfolgung, auch ein Thema. Damit ist gemeint, glaube ich, wenn eine KI eine Auswahl für oder gegen Menschen trifft. Das war jetzt, glaube ich, nicht ganz, so hatte ich das immer verstanden. Ja genau, ich habe es CV genannt, CV ist hier genannt, also wenn ich jetzt eine Bewerbung habe, einen Lebenslauf habe und dass ich dann Tools einsetze, die aufgrund von Stichwörtern beispielsweise selektieren sollen, auch für die sollen strenge Regeln gelten. In der Strafverfolgung wird ja auch KI eingesetzt, zum Beispiel zur Bewertung von Beweismitteln. Auch hier sollen strenge Regeln greifen, genau wie beim Oberthema Migration, zum Beispiel automatisierte Visa-Verfahren. Aber auch all das, was mit uns, mit der Demokratie zu tun hat, zum Beispiel Tools, die beispielsweise gerichtliche Entscheidungen unterstützen, die während der Wahl helfen und so weiter. Das sind Sachen, die strengen Reglements unterliegen sollen. Und dann haben wir in letzter Instanz die sogenannten inakzeptablen Risiken. Das sind KI-Systeme, die grundlegende Rechte bedrohen. Zum Beispiel dieses Social Scoring, von dem wir mal gehört haben, also soziale Bewertung durch Regierungen, wie es beispielsweise in China anscheinend auch der Fall ist.

Oder aber auch gefährliche Beeinflussung von Kindern, egal in welcher Form und Art. Das sind Systeme, die verboten werden sollen. Also ihr merkt schon, man versucht hier eine Risikoabstufung vorzunehmen, die uns erstmal in irgendeiner Form einleuchtet, aber über die natürlich fortwährend diskutiert wird. Das heißt, was empfinde ich denn als risikohaft, als minimal, begrenzt, hoch oder inakzeptables Risiko? Und was diese Hochrisikos-KIs eingeht, da geht es um Verpflichtungen, die getätigt werden müssen. Zum Beispiel vor der Inverkehrbringung, da werden so Konformitätsbewertungen gemacht werden, so Risikominderungen, Sicherstellung von Datensicherheit, Robustheit der Systeme, Dokumentation und Nachvollziehbarkeit, sowas alles. Und wenn diese Systeme dann im Umlauf sind, müssen diese Systeme auch laufend überwacht werden, das muss sichergestellt sein, durch Anbieter und Betreiber im Übrigen. Da gibt es dann also quasi irgendwie auch eine Kontrollinstanz, die jetzt innerhalb der EU sagt, jetzt ist für die und die Tätigkeit folgende KI wird hier vorgeschlagen und dann wird erstmal geguckt, wie wird die eingruppiert und wenn sie in eine dieser Skalen eingruppiert wird, müsste man dann sagen, hey du darfst es nicht nutzen.

Erst mal, das dürfte eigentlich gar nicht entwickelt werden. Also das, gut. Das war klar vorhanden. Es ist natürlich die Frage, woher bezieht man das, woher bezieht man seine Systeme. Aber es ist erst mal ein Grundgerüst, an dem jetzt weitere Gesetze, dezidierte Gesetze andocken können.

Das ist auch gar nicht so blöd, gerade wenn es um Transparenz und Sicherheitsförderung geht von leistungsstarken Modellen zum Beispiel, generative KI und so weiter.

Da muss man so ein bisschen schauen, wie wird sich da auch so ein bisschen der Markt entwickeln. Ich könnte mir auch vorstellen, dass einzelne oder mehrere Länder der EU, wenn die Druck machen, solche Gesetze auch wieder geändert werden können. Absolut. Weil die Deutungshoheit über die Risiken, also wie hoch jetzt ein Risiko ist oder nicht, die obliegt ja letztendlich dann den europäischen Staaten anscheinend. Oder das globale Interesse, wenn man jetzt wirklich merkt, wir sind die letzten Player, die anderen Länder machen jetzt krasse Sachen mit KI, die sind viel schneller, die, was weiß ich, Entwicklungen in den und den Bereichen, wenn wir da nicht nachziehen, dann sind wir am Arsch, dann wird so eine Regel ganz schnell gekippt. Da kann man den Niklas schön zitieren und sagen, ich würde die Entwicklung der KI kulturell gerne unterschiedlich haben. Schapöchen, sehr schön. Ja nein, aber so ist es ja, also das wird ja auch von den KI-Entwicklern in Deutschland ja auch stark kritisiert, die sagen ja, also die befürworten auf der einen Seite diese Reglementierung, sagen aber auch ja, gleichzeitig schneidet mir das aber ins eigene Fleisch, wenn ich mich daran halten muss und die Konkurrenz in anderen Ländern wesentlich stärker wird. Und diese Regeln nicht befolgen muss und so könntest du in Deutschland vielleicht einen Anschluss komplett verpassen, der dann auf dem globalen Markt komplett notwendig ist und dann.

Sitzt du wieder hinten dran, bist aber moralisch, ethisch auf dem richtigen Weg. Das müssen wir glaube ich so ein bisschen differenzieren, weil ich glaube, dass wir so ein bisschen vernachlässigen, welche Wirtschaftsmacht die EU nach wie vor ist und wenn wir von einem ganzen Markt sprechen, der hier reglementiert wird, auch im Use Case, dann ist es glaube ich auch schon wichtig, dass auch.

Ja, quasi Modelle, die von außen kommen, den Standards, die hier gelten, einfach entsprechen müssen. Und wenn sie dem nicht nachkommen, dann hoffentlich zieht das halt empfindliche Strafen nach sich in irgendeiner Form. Das heißt, man versucht halt schon, diesen europäischen Markt irgendwie sicher zu machen in Bezug auf KI. Ja, du hast recht, du hast es nochmal erweitert auf Europa. Also klar, dann geht es halt nicht um. Es geht ja um eine EU-Gesetz. Genau, richtig, weil ich ja jetzt argumentiert habe in Deutschland, aber du hast schon recht, wenn man diese Gesamtmacht Europa da mit bedenkt und diese Richtlinien innerhalb und das ist ein riesiges System, das an dem gleichen Strang zieht, ist das natürlich nochmal was anderes. Da spielst du dann gegen vielleicht zwei, drei andere größere Player, aber das ist schon richtig, deswegen klar, deutschlandweit kannst du das natürlich nicht denken. Und was ich hier im Übrigen sehr interessant finde, wir haben in einer vergangenen Folge darüber gesprochen, wie sieht es denn mit einer potenziellen Haftbarkeit in Bezug auf KI aus. Und da ist Philipp reingesprungen, hat gesagt, im Prinzip ist die Person, die entwickelt und promptet, verantwortlich. Und so wie ich die Gesetze verstanden habe und so wie es kommen soll, soll auch das der Fall sein. Das heißt, die Menschen, die KI nutzen und diejenigen, die sie auf den Markt bringen, die haften dann letztendlich auch, wenn es Probleme gibt.

Also nutzen, ich nutze ChatGPT und ich sage ChatGPT, es soll etwas für mich tun, das wäre jetzt für mich der Nutzen. Der Entwickler ist ja was anderes, also wer ist denn jetzt haftbar? Beide tatsächlich. Also beide. So wie ich das verstanden habe, beide. Ich schaue hier aber tatsächlich nochmal einmal kurz nach, nicht, dass ich euch Scheiße erzähle. Ähm, so wie ich das sehe, ist die Sicherstellung von Datensicherheit und Robustheit der Systeme sowohl im Vorhinein als auch während des Use Cases zu gewährleisten. So, das bedeutet in Bezug auf die Haftbarkeit sich jetzt erstmal diejenigen, die diese Produkte auf den Markt bringen in der Pflicht, heißt für mich aber auch, man bedient sich ja, so wie ich das verstanden habe, bereits existierenden Large Language Models, die dann wieder zu neuen Produkten verfeinert werden. Das heißt, wenn ich zum Beispiel ein Tool entwerfe, das auf Basis von beispielsweise Chat-GPT oder anderen Large-Language-Models funktioniert, dann kann ich natürlich auch haftbar gemacht werden. So habe ich es zumindest verstanden. Ihr da draußen, wenn ihr da andere Informationen habt, dann lasst uns das doch bitte einmal wissen. Ich hatte es zumindest während des Lesens so verstanden, dass ich mir dachte, aha, guck mal, das ist doch genau das, was der liebe Philipp in einer der vergangenen Folgen auch mal so angemerkt hat. Und ich sehe, er schüttelt gerade mit dem Kopf. ich glaube, oder habe ich dich missverstanden?

Also ich hatte das ja so ein bisschen soweit gesponnen, Ich vergleiche das immer so gern so ein bisschen so mit YouTube und da jetzt auch mit Facebook. Das ist ja im Prinzip eine ähnliche Debatte. Ist die Plattform, also ist der technische Dienstleister verantwortlich für den Content, der da hochgeladen wird?

Und da gibt es ja tatsächlich insbesondere im anglo-sächsischen anglo-amerikanischen Raum gibt es da ja eine andere Auffassung davon, wie es das in der EU gibt also in der EU ist es ja schon so, dass wir Facebook bitten versuchen das mehr oder weniger, wirklich durchzusetzen, dass sie problematische Inhalte löschen, aber die zieren sich so ein bisschen weil die halt wirklich ganz klar eine andere Argumentation haben, die sagen halt, nee der User als solches ist verantwortlich und ich hatte das in meiner Vision, in Anführungsstrichen ein bisschen radikaler formuliert, indem ich halt sagte, dass der User ganz bewusst eben verantwortlich ist. Dahingehend, der nutzt eine KI und diese KI benutzt er, um zum Beispiel eine Arbeit durchzuführen. Also er ist so angestellt irgendwo und hat eine Personal KI, die er trainiert auf seinen Job und diese KI übernimmt ganz teilweise oder zumindest zum hohen Prozentteil seinen Job. Und dann sollte dieser Nutzer, dessen KI oder dessen KI-Anwendung, ist es ja eher, diesen Job übernimmt, sollte haftbar sein. Natürlich ist es so, wenn die KI jetzt einen groben Quatsch macht, was eindeutig auf die Programmierung oder auf den Hersteller zurückzuführen ist, gibt es da natürlich noch, in meiner Vorstellung, eben noch auch Möglichkeiten.

Den Hersteller zur Verantwortung zu ziehen. Aber eigentlich müssen wir doch dahin kommen, dass der Nutzer die Verantwortung für das Produkt übernimmt. Also ich klage ja auch keinen Messerhersteller an. Das ist ja so ein Argument, was oft kommt, wenn ein Mörder mit einem Messer einen Menschen verletzt oder umbringt. Ich glaube, das war auch mein Gedankenproblem bei der letzten Folge, dass ich gedacht habe, Moment mal, du kannst ja jetzt nicht genau die ganzen Messerhersteller dafür verantwortlich machen, dass irgendjemand Missbrauch mit einem Messer betreibt. Jetzt konnte ich es aber etwas besser nachvollziehen. Niklas hat ja gerade gesagt, es gibt die KI und es gibt denjenigen, der dann mit der KI ein missbräuchliches Tool entwickelt.

Dann könnte ich ja prüfen, warum hat diese KI, warum ermöglicht sie das? Zum Beispiel schade dem Menschen in irgendeinem Form, das dürfte sie doch gar nicht. Dann könnte ich dem Entwickler sagen, dein Algorithmus oder deine Deine KI lässt Dinge zu, die eigentlich nicht zulässig sind, das verstehe ich und natürlich verstehe ich, dass auf der Ebene, wenn ich jetzt keine Ahnung, hier eine Virussoftware prompte und ich da mit Massenschaden anrichte oder irgendwo andere schlimme Dinge mit KI mache, dass ich dann auch persönlich natürlich haftbar bin, weil ich den Algorithmus sozusagen für schlechte Zwecke missbraucht habe. Das ist ja, das gleicht ja so ein bisschen Flips Vision, wenn ich das richtig verstehe, nur du hattest das im Arbeitskontext natürlich auch gesagt, also ich habe drei verschiedene Jobs, die lasse ich über verschiedene KIs laufen und sage den KIs, wie sie es machen sollen, bin ich dann fahrlässig und wegen meiner Fahrlässigkeit kommt jemand zu Schaden, dann könnte man auch sagen, ja, weil du diese KI nicht ordnungsgemäß bedient hast. Ja, okay. Also jetzt haben wir eine wichtige Dimension besprochen, was hier tatsächlich ein bisschen zu kurz kommt in diesem ganzen Konstrukt, ist natürlich etwas, womit die Menschen hart fremdeln. Ich habe ja das Beispiel gerade gebracht mit dieser Mini-Umfrage, die ich heute mal in meinem Seminar gemacht habe.

Und ich habe mir schon Gedanken darüber gemacht, was ist denn eigentlich mit einem Phänomen, Phänomen, dass man mitunter auch testen kann mit einem sogenannten Turing-Test.

Wisst ihr noch, was das ist? Das ist dort der Test, der letzten Endes beweisen soll, ob mein Gegenüber ein Mensch oder eine Maschine ist. Genau, also der Test prüft halt Nachahmung menschlicher Kommunikation und auch die Fähigkeit von Maschinen, dem Fraker zu täuschen.

Da geht man auch davon aus, muss man davon ausgehen, dass eine Maschine solche sogenannte Lügen zweiter Ordnung beherrscht, also das Nachahmen menschlicher Emotionen. Der Test wird halt gerne mal benutzt, um eigentlich vordergründig richtige künstliche Intelligenz, die uns täuschen kann, halt irgendwie zu bewerten. Und das ist insofern jetzt gerade mal relevant, als dass es ein sehr interessantes Phänomen bei uns Menschen gibt. Und das ist glaube ich auch etwas, was den Menschen mitunter Angst macht, zumindest wenn ich jetzt mal die Kommentare heute aus dem Seminar einfach nehme, nämlich das Problem, dass wir mittlerweile schon Chatbots haben, die, wenn ich nicht weiß, dass ein Chatbot hinter steht, ich mitunter davon ausgehen könnte, dass sich dahinter ein Mensch bewegt. Der Mensch neigt zu einem total witzigen Phänomen. Das ist der sogenannte Anthropomorphismus. Ich weiß nicht, ob ihr das schon mal gehört habt. Also Anthropos ist Mensch und Morphe ist die Form oder die Gestalt. Das ist im Prinzip die Zuschreibung menschlicher Eigenschaften. Zum Beispiel gegenüber Tieren, Vermenschlichung. Das ist ein unglaubliches Phänomen. Der Mann im Mond, da ist ein Gesicht im Mond.

Ja, genau. Das heißt, wir schreiben Dingen, Gegenständen, aber auch Tieren, menschliche Eigenschaften zu und mit dieser Idee wird ja schon auch in der Science-Fiction-Welt unfassbar gut rumgesponnen. Das heißt, ein Teil der Wahrnehmung einer künstlichen Intelligenz, die ich als irgendwie menschlich betrachte, ist der Mensch selbst, der nämlich seine Eigenschaften aufgrund von Wahrnehmung in das Gegenüber, also Maschine oder Tier, hineintransportiert. Wie Hundebesitzer gerne Emotion, aber auch Motivation in Tiere hineininterpretieren, die sie so aber wahrscheinlich gar nicht hatten.

Das ist insofern wichtig, als wir hier natürlich auch eine Gefahrenquelle haben in Bezug beispielsweise auf Betrug. Ist ja auch bekannt, dass es da auch schon Systeme gibt, mit denen versucht man Menschen irgendwie auch um ihr Erspartes zu bringen. Das sind natürlich Systeme, die so nicht erlaubt sind, aber es sind zum Beispiel genau diese Mechanismen, die dafür sorgen können, dass eine wachsende Skepsis gegenüber von KI-Sprachmodellen halt aufkommen kann. Dazu hat sich tatsächlich auch der Deutsche Ethikrat mal geäußert und hat da auch mal klare Kante bewiesen. Sie haben sich nämlich im Vorfeld mal darüber Gedanken gemacht, wie sieht denn eigentlich Mensch-Maschinen-Kommunikation jetzt in Zeiten von KI aus und wo muss die Grenze sein? Und da habe ich mal ein Zitat mitgebracht, eben aus diesem einen Werk, das sich dann konkret damit beschäftigt. Ich zitiere, es wird der Softwareentwicklung der Zukunft vermutlich im wachsenden Umfang gelingen, menschliche Fähigkeiten zu simulieren und in vielen Fällen zu übertreffen. Das sollte uns aber nicht dazu verführen, impersonale Eigenschaften zuzuschreiben, die für genuine menschliche Existenz essentiell ist. Verdammte Tat benutzen die viele Fachbegriffe. Also.

Auch die sind der Meinung, dass es dort so etwas wie eine Gefahrenquelle gibt und man muss unterscheiden zwischen einer menschlichen und einer missionellen Intelligenz. Würden sie eine Gefahr nicht sehen, würden sie so etwas nicht formulieren. Und ich glaube, dass dort auch mit Sicherheit noch in Zukunft weitere Gesetze folgen könnten, so meine Vermutung zumindest, die auch da hineinstoßen. Die sagen, wir setzen der Vermenschlichung oder der Möglichkeit der Vermenschlichung von KI irgendwann Grenzen. Das wäre eine Vermutung von mir. Und jetzt würde mich mal wirklich interessieren, wie steht ihr dazu? Ich finde das mega spannend. Ich sehe bei dem, du hattest jetzt diese Gefahr von Betrug angesprochen, ich sehe noch eine andere Gefahr, die hatte ich auch mal in Dokumentationen gesehen, im Sinne von wirklich therapeutischen Ansätzen, wo jetzt ein Chatbot wirklich therapeutisch agiert oder es gibt ja auch virtuelle Freunde und sonst was. Und ich sehe ein bisschen die Gefahr, gerade weil du dieses Phänomen so schön angesprochen hast, dass ich das Ding vermenschliche. Siri ist jetzt mehr mein Freund als meine wirklichen Freunde.

Und je perfekter diese Systeme sind und je besser sie antworten, so könnten sie übergefällig sein. Also dieser Algorithmus reagiert immer auf meine Stimmung, macht mich glücklich, diese Maschine macht mich glücklich, weil sie erkennt, oh die hat gerade schlechte Laune, der muss jetzt mal Metal hören, keine Ahnung und sagt, ja wollen wir nicht auf ein Heavy Metal Konzert gehen, ja cool, das ist ja eine super Idee. Du übrigens meine Freundin, die kommt nie auf solche Ideen, die steht ja noch nicht mehr auf die Musik oder sonst was und so könnte es an sozial, also uns als Gesellschaft könnte es schwer fallen, wenn solche Systeme so richtig krass sind, dass man sagt, ja wir haben hier den perfekten Menschen gegenüber und dass man sagt, ja dann sind meine Mitmenschen.

Interessiere mich vielleicht gar nicht mehr so. Ich möchte mich nur noch mit dieser Maschine beschäftigen. Ich glaube, wir kommen in unserer Vision immer ganz oft auf diese Übersättigung. Also ich glaube, das ist so lange, bis man irgendwann sagt, jetzt habe ich davon auch die Schnauze voll. Aber dieses Potenzial, es gab jetzt auch Studien, dass die Gesellschaft immer mehr sich isoliert und immer mehr vereinsamt und natürlich auch immer mehr Möglichkeiten hat, sich auf eine andere Art und Weise zu beschäftigen und auf diesen wirklichen Mensch-zu-Mensch-Kontakt nicht mehr angewiesen sein zu müssen. Und da sehe ich die Gefahr, dass wenn dann solche Systeme da sind, die wirklich so gut sind, dass ich mich auch noch stundenlang mit einem Roboterfreund unterhalten kann.

Ja, dass da wesentliche menschliche Dinge einfach gesellschaftlich in Gefahr sind. Aber um das jetzt genau auf unser Universum und auf Science Fiction und vor allem auch auf Literatur und Science Fiction zum Beispiel zu übertragen, sehe ich genau in dem Punkt, den wir jetzt gerade diskutieren, die große Aufgabe und die große Stärke von Science Fiction, nämlich genau solche Szenarien zu zeichnen. Das muss nicht unbedingt immer eine Dystopie sein, das kann auch tatsächlich eine Utopie sein oder man muss vielleicht auch gar nicht so richtig zuordnen in irgendeine Richtung.

Um auf solche möglichen Gefahren hinzuweisen, um aber vielleicht auch grundlegend die Frage zu stellen, was ist menschlich? Und definieren wir, müssen wir irgendwann Menschlichkeit nochmal neu definieren? Inwieweit, also das finde ich eine ganz interessante Frage. Nein, das ist made by human. Das made by human ist interessant, aber auch diese ganze Thematik des Transhumanismus, der Cyborgs.

Ist es irgendwann überhaupt relevant, ob ich mich mit einem Roboter unterhalte, der vielleicht genauso ein Teil der Gesellschaft sein kann in seiner Art von Existenz? Oder ich mich mit einem Freund unterhalte? Also ist das denn überhaupt schlimm? Also diese Frage könnte man sich auch stellen. Ja, und sie wird tatsächlich aktuell mit Nein beantwortet. Also das ist das Statement, das aktuell so steht. Und ich finde die Vorstellung irgendwie krass, dass man sagt... Schmeißt das vielleicht auch mal irgendwann über Bord. Ja, aber genau das finde ich, genau, genau, genau, aber genau das finde ich spannend. Dahingehend, wo es weh tut. Allen unseren Zuhörerinnen und Zuhörern, euch auch, mir eingeschlossen, glaube ich, sträuben sich die Nackenhaare, diese Frage überhaupt zu stellen. Ist das irgendwie ein Problem, dass man sich vielleicht lieber mit seinem Roboterfreund unterhält, jetzt so gespitzt, als mit seinem Nachbarn oder als mit seiner Frau.

Aber ich glaube schon, ohne dass wir diese Frage stellen müssen. Natürlich rede ich jetzt nicht über ein Szenario von 2025, wo wir uns mit einem Textgenerator unterhalten. Das ist eine andere Dimension. Aber jetzt denken wir doch mal weiter und haben unseren persönlichen KI-Assistenten, der vielleicht sogar visualisiert wird, der vielleicht sogar auch, keine Ahnung, vielleicht kann der auch springen oder Teile von ihm, Teile von Apps sind in meinen Geräten drin. Das ist einfach ein menschlicher Roboter, der auch noch wahnsinnig fantastisch aussieht und den du dir so zusammenstellst, wie du es gerne haben möchtest. Also das ist ja, also das ist ja, ehrlich gesagt, die humanoiden Roboter, guckst du da auch in die aktuellen, News, das ist, die sind da. Das ist auch keine Science Fiction mehr. Und die Vorstellung, dass wir, keine Ahnung, wahrscheinlich, da würde ich, ich meine, als Sci-Fi-Fan würde ich es ja wirklich feiern, wenn unsere Enkel oder unsere Kinder vielleicht immer mal sagen, boah, ja, der Orti, der ist jetzt 70, 75. Was sollen wir dem noch schenken? Der wünscht sich auch irgendwie nichts. Dann kriegt er so einen KI-Butler. Also so einen Roboter-Butler, so wie man früher so dem Oppern-Relax-Sessel gekauft hat oder so.

Und das Beste ist, wenn du dann 85 bist, dann wird noch das Software-Update zum Thema Pflege aufgespielt und dann ist es nicht nur ein KI-Butler oder ein Roboter-Butler, sondern kann dich auch noch pflegen. Genau, dieses Modell kann doch später auch noch die Pflege übernehmen. Aber ehrlich gesagt, das finde ich, ja, na klar ... Das wird kommen und ich glaube auch, wir haben am Anfang der Folge so schön gesagt, wir sind an diesem Wendepunkt, wo wir noch nicht genau wissen, wo das hingeht, aber es kommt. Ey, da habe ich mir übrigens eine Frage zu aufgeschrieben. Du hast gesagt, wir sind jetzt an dem Punkt und keiner weiß, wo es hingeht. Und da habe ich mir aufgeschrieben, da wollte ich eh nochmal drauf zurückgehen.

Ich halte das für eine zentrale Aufgabe von Science Fiction, wo wir auch Teil dessen sind, eine Welt zu formen, eine Idee zu formen, eine Vision dessen zu formen, wo es hingehen kann. Und es obliegt hier an uns, und das tun wir ja gerade in dieser Diskussion, wie wir es ausgestalten wollen. Und das ist ja das Spannende und das finde ich die allergrößte Chance an Science Fiction und deswegen finde ich das so unglaublich wertvoll, wichtig und vor allem das, was wir eigentlich nie sein wollten, weil wir eigentlich Nerds sind, die Bock auf Raumschiffe haben, sind wir extrem politisch, aktuell und gesellschaftlich relevant tatsächlich mit so einem blöden Science Fiction Podcast und das muss man einmal in den Köpfe reinkommen.

Aber es geht auch nicht anders, wenn wir das Ding hier durchdenken wollen. Es ist unsere Geschichte, das ist klar, aber wir kommen, wir müssen diesen Punkt irgendwie durchdenken und wir müssen ihn gesellschaftlich durchdenken. Ich habe da, ich merke bei mir manifestiert sich so ein Ding, dass ich sagen würde, es ist unaufhaltsam. Ich möchte nochmal Niklas hier zitieren. Die Schüler sagen, ich habe Angst davor, aber ich nutze es trotzdem. Okay, jeder nutzt es, es gibt diese Skepsis, aber es kommt. Und wir haben auch immer gesagt, was entwickelt wird, wird entwickelt. Das heißt, alles, was wir so ein bisschen, wovor wir auch Angst haben, das, was Niklas auch vorgestellt hat, das wird alles irgendwo da sein. Es wird diesen Missbrauch geben, es wird korrupte KIs geben, es wird Roboter geben, es wird auch bestimmt irgendwann maschinelles Bewusstsein kommen. Die Frage ist eben, wie reagiert die Gesellschaft darauf und was wird reglementiert und was sind die Folgen? Gibt es dann keine Technik mehr? Wir haben, Philipp hat romantisiert über dieses, naja, die Mensch-zu-Mensch-Interaktion wird immer wichtiger und vielleicht kommt man auch in einem Punkt der KI-Sättigung, dass die Gesellschaft sagt, wisst ihr was?

Roboter sind mir scheißegal, diese ganzen Videos sind mir scheißegal, ich kann das alles nicht mehr trennen, wir wollen das alles nicht mehr und auch da quasi gibt es erstmal einen riesen Boom an Entwicklung und irgendwann sagt man, nee, wir sind ihm überdrüssig. Und die könnte ich mir so vorstellen, dass sich das dahingehend äußert, dass während meine KI, vielleicht mein KI-Butler, wo wir gerade beim Thema waren, also mein KI kombiniert, wir reden ja gerade darüber, dass eine KI kombiniert mit einem Roboter ist. Ich meine, das ist ja jetzt nicht, das ist jetzt irgendwie ein total logischer Schritt irgendwie.

Und wer weiß, vielleicht kann es ja so sein, dass mein Butler gerade den Haushalt macht, während dein Butler, Ortie, auch den Haushalt macht und während dein Butler, Niklas, auch den Haushalt macht Und wir drei uns einfach auf der Hütte auf Lanzarote oder was genau da, nämlich treffen, einen wunderbaren menschlichen Abend miteinander verbringen, weil wir vielleicht, ne, die Instinkte, unsere menschlichen Urinstinkte sind immer noch da, wir sitzen vielleicht wieder um ein Feuer rum. Und vielleicht spielt uns Niklas was von seiner Musik vor. Wir trinken guten Whisky und freuen uns einfach an den Erlebnissen und haben dann für den Moment bewusst, vielleicht für ein Wochenende, weil wir entfliehen wollen oder so, diese ganze Technik ausgebildet. Gehen wir wieder in den Alltag, nutzen wir weiterhin diese Assistenten. Ich merke, dass so für mich diese Reise gedanklich da hingeht, also so eine Koexistenz mit diesem ganzen Kram und natürlich, also die Reise. Machtmissbrauch und so weiter und so fort und das wird auch ganz viel Stoff für spannende Geschichten geben, also irgendwelche großen Konzerne, die dann mit dem neuesten KI-Entwicklungstool das und das entwickeln auf jeden Fall, aber ja, das ist eine coole, ich finde es eine coole Vorstellung zu sagen, die Gesellschaft ist einmal hochkatapultiert worden mit all den Möglichkeiten der KI, da hat es einen riesen Boom gegeben und irgendwann ist diese Blase auch ein bisschen zerfallen und man hat sich eben wieder auf das Menschsein.

Fokussiert oder das ist gesellschaftlich das, was gerade wieder viel mehr in den Fokus rückt und da setzt dann ja vielleicht auch unsere Geschichte viel mehr wieder an und da könnte man eben auch wieder wunderbar argumentieren, dass obwohl das alles möglich ist und obwohl es das alles gibt, es gar nicht so viel genutzt wird oder von der Gesellschaft vielleicht sogar abgelehnt wird. Mir fällt da eine kleine Geschichte zu ein, wenn ich beispielsweise Mehrgenerationsschiff habe, das darauf angewiesen ist, dass zwischendurch Leute wach werden und die Systeme warten, Werden die mit Sicherheit von KIs unterstützt, damit sie sich auch nicht so einsam fühlen. Und vielleicht kann aus einem so Prozess des Akzeptierens einer solchen KI als Notwendigkeit, eine sehr persönliche menschliche KI als Notwendigkeit auch resultieren, dass man sich im Nachhinein viel offener demgegenüber zeigt, wenn die Menschen dann landen. Das könnte ich mir auch vorstellen. Ich könnte mir aber ebenso vorstellen, das, was ihr gerade postuliert habt. Nee, ich bin einfach froh, jetzt wieder mit Menschen interagieren zu können. Wir reduzieren die Möglichkeiten einer künstlichen Intelligenz auf das Notwendigste. Also da lassen sich wirklich viele Storys erzählen. Total. Und es muss auch nicht immer, ich glaube halt, Otti, was du gerade gesagt hast, eine Koexistenz, da glaube ich, wird irgendwo dieser Mittelweg irgendwie verlaufen. Also im Sinne von.

Regularien hinher, ich glaube nicht, dass es wirklich eine gesetzliche Verordnung gibt, wir verbieten KIs, das kann ich mir nicht vorstellen, dass das irgendwie ansatzweise durchsetzbar ist, ich kann mir aber schon vorstellen.

Und dass das auch jemand wirklich macht, ich fand das immer ehrlich gesagt, bei Dune gab es das ja auch so, irgendwann gab es dann Butler's Dschihad und dann wurden die ganzen Maschinen verboten.

Im kompletten Universum und dann denke ich mir, wer hält sich denn da dran, als würde das auf einmal funktionieren. Das ist mir immer so ein Schwarz-Weiß. So, Bums. Ich brauche jetzt irgendwie eine Erklärung dafür, weil ich das nicht haben will und dann ist es halt verboten. Ich glaube, das ist auch das, was wäre, Eine sehr faule Geschichte, wenn wir einfach sagen, und dann ist alles explodiert und der Zentralrechner ist kaputt gegangen und deswegen ist dann auch die KI kaputt gegangen und dann gab es die nicht mehr, weil keiner hat sie neu entwickelt oder irgendwas. Wir wollen da einfach ein bisschen realistischer bleiben. Ich glaube, dass der Mensch diese Art von Technologie auf jeden Fall mitnehmen wird und sie unterschiedlich für sich auslegen und nutzen wird. Ich fand es erstmal interessant zu schauen, wie stehen wir heute dazu. Ich bin auch mal total interessant, ich hoffe zumindest noch so lange zu leben wie nachfolgende Generationen, die dann auch einfach mit diesen Tools groß werden, wie die letztendlich darauf reagieren und wie sie das wahrnehmen und wie befremdlich das vielleicht auch für uns sein wird. Da freue ich mich ehrlich gesagt auch ein bisschen drauf. Kann aber trotzdem nicht verleugnen, dass meine Skepsis gegenüber diesem Thema letztendlich immer noch da ist, weil wir einfach nicht das Wissen haben aktuell, womit haben wir es hier denn eigentlich zu tun, bis es so selbstverständlich geworden ist, dass wir uns diese Frage gar nicht mehr stellen. Ähnlich wie bei anderen Systemen, die im Laufe der Menschheit so aufgetaucht sind. Und dass gewisse Risiken auch einfach in Kauf genommen werden.

Das war ja bei fast jeder technologischen Entwicklung so. Insofern, ja, also das ist zumindest mal so ein Startpunkt, an dem wir jetzt stehen. So empfinde ich das zumindest gerade nach dieser wirklich elendig langen Reihe zum Thema KI, dass wir jetzt ungefähr eine grobe Vorstellung haben, wie könnte es aussehen. Ja, da möchte ich mich tatsächlich dahingehend anschließen, Niklas. Vielen, vielen Dank für deine Recherchen. Vielen Dank für die Impulse, die du hier nochmal reingebracht hast. Und ich fand das wirklich in den letzten beiden Folgen hochinteressant, dass wir wirklich jetzt an Themen gehen, die wehtun. Also sich über Raumschiffantriebe zu unterhalten ist nett, tut aber wirklich gar keinem weh. und da ist eher so eine fast schon infantile Technikbegeisterung zu spüren. Und jetzt aber wirklich gehen wir an den Kern der Themen und wenn Orti sagt, das wäre ein bisschen... Bisschen faul ist es schon zu sagen, der Zentralrechner ist kaputt, es gibt keine KI mehr. Stimme ich dir absolut zu und ich glaube, wenn wir eine Lösung, eine Vision entwickeln und beschreiben können im Götterkomplex-Universum, wie mit KI umgegangen wird und vielleicht auch, wie es Impact auf die Gesellschaft hat, wenn wir da wirklich konkrete Sachen definieren können.

Dann folgen wir einer Vision, einer Science-Fiction-Vision, ob sie dann eintritt in 50, in 100 Jahren. Das müssen andere bewerten, aber das finde ich, glaube ich, das großartige und die großartige Chance, die wir mit diesem Projekt haben, nämlich wirklich eine Vision aufzuzählen, aufzuzeigen, wo es hingehen kann, die vielleicht sogar auch einfach letztlich eine Warnung ist, weil man merkt, okay, wir beschreiben hier Dinge, weil wir automatisch in so einen Loop reinkommen, die vielleicht gar nicht so cool sind. Aber auch das ist, finde ich, ein Beitrag, ein wertvoller gesellschaftlicher Beitrag zu unserer aktuellen Diskussion. Und das ist irgendwie spannend, weil das wollten wir eigentlich nie sein. Und genau das sind wir gerade. Deswegen vielen, vielen Dank dazu.

Ich kann mich da auch nur anschließen, also ich merke so aus den letzten Folgen und auch aus der Folge heute, da ist so viel Zündstoff drin, den wir überhaupt gar nicht final beantworten können, das merken wir auch, wir drehen uns dann manchmal im Kreis, wir diskutieren hin und her, wir bleiben manchmal gar nicht bei den Themen, weil man schon wieder ein neues Fass aufgemacht hat, weil KI global ist, es wird alles irgendwie mit betreffen.

Und ich finde aber gerade diese Impulse, wo man, Philipp sagt immer so, da wo es wehtut ist die Geschichte und die Geschichte ist bei KI in so vielen Bereichen, Niklas hat so schön gesagt, hier sind Gefahrenquellen, die identifiziert werden und hier sind Ängste. Ich habe Angst vor der Maschine, aber ich vermenschliche auch die Maschine und so weiter und so fort. Das sind so viele Phänomene, die damit verbunden sind.

Und das ist, ich merke immer mehr, dass ich halt auch Bock habe zu sagen, ich möchte das Thema nicht mehr technisch sozusagen behandeln, so was ist jetzt noch möglich und was könnte jetzt in einer Woche der nächste Schrei der KI-Entwicklung sein und welcher Roboter hat jetzt wieder eine neue Fähigkeit entwickelt und wer kann jetzt wahrhaftig, keine Ahnung, da gibt es wieder ein neues Gerät, dies, das, jenes. Das interessiert mich immer weniger, sondern eigentlich haben wir durch diese Folgen diese groben Themen aufgemacht. Was hat das für Auswirkungen auf unser Leben? Die großen Themen, nicht nur grob. Ja, also auf jeden Fall, da wollte ich gar nicht so unterreden, sondern irgendwie, also erstmal, was ist möglich und dann, welche Auswirkungen könnte das haben? Und ja genau, wichtig ist, dass wir für die Schritte, die wir erzielen wollen, eine logische Herleitung entwickeln, dass wir dann sagen, wenn der Zentralrechner ausgefallen ist, Warum hat dann keiner weitergemacht oder wie auch immer. Oder wenn die Menschheit gesagt hat, wir möchten, wir hatten diese ganze KI, wir hatten irgendwann eine Sättigung, wir sind jetzt müde, deswegen wurden gewisse Dinge einfach nicht mehr weiterentwickelt, weil sie nicht mehr verkauft worden sind. Das sind alles irgendwelche Gründe, die wir brauchen und die wir erzählen müssen in unserem Zeitstrahl für irgendeinen Status X, wo man sagt, so da sind wir jetzt.

Und das ist schön, da können wir uns jetzt wieder frei austoben und hätte Bock auf den Sci-Fi-Motor. Und mit diesem Stichwort und einem kleinen Blick auf den Timer, der hier unerbittlich hoch tickt, würde ich uns jetzt mal in den Abend und euch, liebe Hörerinnen und Hörer, in den, weiß ich auch nicht, was auch immer ihr macht, in den Feierabend, ins Bettchen oder auch zur Arbeit, wo auch immer ihr gerade seid, hinschicken. Nochmal vielen, vielen Dank für die angeregte Diskussion letzte Folge war auch schon über eine Stunde, diese wird auch wieder über eine Stunde sein ich glaube, das zeigt wirklich nochmal die Intensität und es macht mir großen Spaß, macht mir vor allem auch großen Spaß mit euch zusammen den Science-Fiction-Motor anzuschmeißen. Ihr Lieben da draußen wenn ihr jetzt auch Bock habt, hier etwas beizutragen, einen Diskussionsbeitrag, könnt ihr uns zum Beispiel in den Kommentaren auf YouTube schreiben, was zum Teil genutzt wird. Ihr könnt aber auch direkt in unseren Discord kommen. Da ist der Link unten in den Shownotes verlinkt oder uns einfach eine Mail schreiben, an info at götterkomplex.de Es wird alles gelesen und wir antworten in der Regel auch, konnten hin und wieder mal ein Momentchen dauern, aber wir freuen uns da auf euren Austausch und wenn ihr mehr.

Diskussionswürdige Themen habt, auch da sind wir über Themenvorschläge sehr, sehr gespannt und freuen uns da. So, jetzt aber. Ich würde mal sagen, wir huschen jetzt mal ins Körbchen. Es ist hier nämlich schon recht spät. Und ich würde sagen, ihr Lieben, wir verabschieden uns wie immer. Diesmal mit einem höchstmenschlichen Energie. Und zur Klarstellung, in der letzten Party Warhammer habe ich mich mit Philipp auf ein Unentschieden geeinigt. Oh, ich habe es gewusst.