Music.
Tag zusammen, hier ist der Götterkomplex, eure wöchentliche,
naja, zweiwöchentliche Dosis Science Fiction.
Mein Name ist Philipp und ich bin wie immer nicht alleine hier im Studio mit
mir, der in Decken eingehüllte, unglaublich sexie Niklas. Hallöchen.
Awe zusammen. Ja, schön, dass ihr wieder eingeschaltet habt.
Es ist saukalt in meiner Wohnung.
Ich habe keine Ahnung wieso, deswegen habe ich mich im römischen Stil jetzt
auf mein Mikrofon gesetzt und freue mich auf den heutigen Tag.
Es steht dir gut, insbesondere weil die Decke ein Weiß oder ein Beige ist,
ganz im Gegensatz zu Otti, der sich nämlich mit einer dunklen bis grauen Decke eingehüllt hat.
Es scheint kalt in eurer Heimatstadt zu sein. Hallo Otti.
Schönen guten Tag an alle da draußen. Nee, nee, ich mime nur den Nazgul.
Das ist so ein Hobby. Okay, gut.
Nicht, dass du noch andere seltsame Hobbys hättest, wie zum Beispiel einen Podcast
über Science-Fiction, einen Podcast über Science-Fiction-Worldbuilding.
Ja, herzlich willkommen auch euch da draußen an den Endgeräten, an den Hörgeräten.
Ihr habt eingeschaltet mal wieder zum Götterkomplex und wir befinden uns in unserer Konzeptreihe.
Das heißt, wir behandeln hier in verschiedenen Folgen ein Thema aus verschiedenen
Blickrichtungen und versuchen zu schauen, wie wir dieses Thema in unseren Götterkomplex
einbauen können, also in unser Science-Fiction-Universum, was wir gemeinsam
mit euch erschaffen wollen.
Und wir sind schon geraume Zeit zugange, uns irgendwie dem Thema KI zu nähern.
Und ich sag euch, ich sag uns, das war bis hierhin ein ganz schöner Ritt.
Wir hatten fantastische Folgen, fantastische Einblicke und ja,
interessante Momente, wo wir uns alle nochmal gedachten, ah,
okay, wow, so läuft das und das wollen wir fortsetzen.
Wir haben uns gedacht, wir machen uns jetzt mal auf die Reise und versuchen
das Ganze mal ein bisschen über die Aktualität zu denken.
Wir wollen eine kleine Diskussion starten und auch vielleicht mal die möglichen
negativen Aspekte oder die Ängste, die es vor KIs gibt oder vor künstlicher
Intelligenz gibt, ein bisschen zu beleuchten.
Und der Niklas hat sich da aufgemacht und ein ziemlich langes Skript zusammengestellt,
um uns mal Gedankenanstöße oder Impulse für die heutige Diskussion zu geben.
Ich bin sehr, sehr gespannt, Niklas, was du vorbereitet hast.
Denn hier auch der Disclaimer.
Unser Vorgespräch war gerade ungefähr drei Minuten lang und wir haben abgesprochen,
dass ich die Anmod mache.
Das mache ich hier mit. Und alles Weitere schauen wir jetzt.
Niklas, was hast du mitgebracht? Ja, danke erstmal für die Anmod.
Was habe ich mitgebracht? Ein gigantisch volles Skript.
Wenn man sich so auf die Suche macht nach dem Thema KI, Risiken und Kritik an
KI, dann wird man ja wirklich sehr schnell fündig. Da habe ich mich so ein bisschen
gefragt, gibt es da draußen irgendwie sowas für eine allgemeine Skepsis an KI oder was ist da los?
Wir waren doch erst so motiviert und irgendwie so voller, nicht Hoffnung,
aber zumindest so beeindruckt von dem, was da so auf den Markt geschmissen worden
ist die letzten Jahre und wir sich auch nicht nur Consumer-Verhalten,
sondern auch irgendwie...
Das Arbeitsverhalten auch verändert hat mithilfe von Large Language Models wie
beispielsweise Chat-GPT.
Und da haben ja auch Kritiken nicht lange auf sich warten lassen.
Und ich kann mich daran erinnern, als
wir angefangen haben mit dem Götterkomplex-Podcast, da kam das so gerade,
dass man sich damit auseinandergesetzt hat, huch, also eigentlich das,
was wir als Science Fiction sehen, das ist auf einmal da und unterstützt uns.
Ich weiß nicht, wie es euch da ging, aber ich hatte schon trotzdem irgendwie
ein mulmiges Gefühl bei der Sache, das mich dann bis heute auch irgendwie nicht losgelassen hat.
Wie ging es euch denn dabei? Also ich kann sagen, ich habe so eine ähnliche
Reise gehabt, dass ich in den Recherchen auch immer so ein bisschen gedacht habe, so boah,
krass, was ist alles möglich und auch in diesem, ja in dem selber ausprobieren
mit Chat-GPT oder mit KI, mit Journey, diese bildgenerierende KI,
dass man immer erst so einen Moment hatte, boah krass, das ist möglich, das ist ja Wahnsinn.
Das ist bei mir aber gewichen. Also je mehr ich mich mit dem Thema beschäftigt
habe, umso mehr habe ich mich auch damit beschäftigt, was eben nicht möglich ist.
Und du hast es gesagt, es nimmt Einzug in die Arbeitswelt und ich bin davon
überzeugt, dass man die Arbeitswelt in Zukunft neu denken muss.
Und da hatten wir auch schon viele Impulse und es gibt ganz,
ganz klar, ganz berechtigte Ängste,
dass sich gewisse Dinge halt im Arbeitsmarkt so verschieben,
dass wirklich die KI auch mit Sicherheit gewisse Sachen ersetzen kann.
Ich hatte jetzt ja auch einmal zitiert in meinen Folgen in der Recherche auch
die Aussage, wenn ihr Beruf irgendwas mit Sprache zu tun hat,
dann kann das auch ein Large Language Model irgendwann in Zukunft machen.
Und ach so, Sprache lässt sich ja auch, naja, also wenn man Sprache simulieren
kann, dann lassen sich auch andere Dinge simulieren und dann geht das immer weiter.
Also es ist hochaktuell, ich verstehe auch diese Ängste.
Ich bin jetzt ein bisschen frech und sage,
das ist aber auch in der Historie eigentlich immer so,
dass Dinge neu erfunden werden, Dinge ersetzen, Jobs und neue Jobs werden dazukommen
und ja, man wird die Arbeitswelt neu an diese Dinge anpassen müssen, auf jeden Fall.
Aber diese große Angst vor der mächtigen KI im Sinne jetzt von Science-Wiction-Dystopien
und diesen ganzen, sag ich mal, oh Gott.
Wird uns die KI in Zukunft als Feind sehen und uns vernichten und all diese
Bewusstseinstheorien und so weiter und so fort.
Selbst wenn sie zum Teil technisch möglich sind, bin ich da aber sehr,
sehr, sehr optimistisch und gar nicht so, hab da gar nicht so diese krassen,
bösen Szenarien im Kopf.
Also das ist gewichen. Die Angst vor dem Arbeitsmarkt und all diese Sachen und
Skepsis auf jeden Fall, das bleibt.
Ich fand den Punkt, Orti, den du da an, du hast ein Wort benutzt,
dass eine gewisse Skepsis bei allen historischen Veränderungen irgendwie da
war oder spürbar in der Menschheit, in der Menschheitsgeschichte.
Und ich glaube, das ist eher das vornehmliche Gefühl, gerade zu Beginn,
Niklas, so das gefragt, wieso der erste Kontakt war eigentlich mit dieser KI,
mit diesen neuen Möglichkeiten.
Und ich hatte ein ganz interessantes Gefühl, was ich bislang in meinem Leben
noch nicht so mega häufig hatte.
Ich hatte echt irgendwie das Gefühl, dass wir an so einem historischen Punkt
gerade sind. Dass also Dinge wahr werden, Dinge möglich werden,
Dinge technisch möglich werden, die man sich wirklich vorher nur in der Science-Fiction
irgendwie ausgedacht hat.
Ich meine, wir sind alle keine Computer- oder künstliche Intelligenzexperten,
die das vielleicht schon seit 30 Jahren auf dem Schirm haben,
dass es sehr wohl in diese Richtung gehen kann.
Das heißt, es kam für mich so ein bisschen wie Kai aus der Kiste und habe mich
einfach irgendwie in so eine ganz seltsame Art von,
Erstaunen gezogen, in so einen magischen Bann, in so ein,
wow, das ist möglich, gleichsam aber natürlich auch irgendwo gepaart mit dem
Wissen, hier passiert irgendwie was Größeres als irgendwie so eine Erfindung,
die, naja, vielleicht auch wieder verpufft.
Irgendwie hatte man schon oder hatte ich schon das Gefühl, das ist auch geblieben,
dass das mehr ist als eine Erfindung, sondern dass wir hier eigentlich schon,
oder es gibt ja auch Leute, die über eine industrielle Revolution sprechen oder das dem gleichsetzen.
Ich kann das jetzt nicht widerlegen oder auch nicht bestätigen,
aber ich könnte mir schon vorstellen, gefühlt geht es zumindest bei mir in diese
Richtung, dass da wirklich was Epochales, Historisches passiert.
Davon bin ich im Übrigen auch überzeugt. Also das, was du sagst,
dieser Wendepunkt und dass wir gerade etwas, also an einem Punkt stehen,
wo etwas komplett bahnbrechendes, neues Einzug hält, von dem wir nicht genau wissen,
welche Auswirkungen das hat, das denke ich auch.
Und ich denke auch, dass das eine Sache ist, die nicht mehr wegzudenken ist,
von der wir, aber die ist so schlecht greifbar. Das ist so manchmal wie so ein
interessantes Gimmick.
Dann spielst du manchmal ein bisschen mit, dann denkst du, ach,
das ist ja gerade beeindruckend, vielleicht nutzt du das mal an der einen oder
anderen Stelle, dann legst du es wieder weg und man kann es so noch nicht wirklich
einschätzen, was sind die jetzt wirklich die Folgen, was verändert das alles.
Aber dass das passiert und dass wir an so einem Punkt sind, wo KI nicht mehr
wegzudenken ist und irgendwie in den Alltag und auch in den beruflichen Alltag
komplett Einzug halten wird, davon bin ich auch überzeugt, ja.
Ja, vor allen Dingen auch in unser Privatleben. Das hat sich ja schon eingeschlichen.
Also wenn ich jetzt überlege, wie ich arbeite, dann möchte ich auf meine Large
Language Models ja irgendwie auch nicht mehr verzichten.
Jetzt ist es aber so dass wenn man jetzt mal versucht mal so eine Stimmung abzufragen
wie stehst du denn da eigentlich zu, heute ist passiert in einem Seminar,
ich habe ein paar Schüler gefragt, wie steht ihr denn eigentlich zu dem Thema.
Hat der Großteil ja doch irgendwie gesagt, doch irgendwie skeptisch also irgendwie
macht mir das Angst, tatsächlich, das fand ich sehr sehr erstaunlich.
Und da sind die auch nicht alleine, ich habe mal eine Schlagzeile gefunden in
der Tagesschau-Redaktion das ist jetzt gar nicht so lange her,
Die lautet wie folgt. Führende Experten warnen davor, die Risiken künstlicher
Intelligenz zu unterschätzen.
Sie bewerten die Gefahren durch KI ähnlich hoch wie bei Pandemien oder einem Atomkrieg.
Das ist eine Stellungnahme gewesen, die ist, und das finde ich sehr interessant,
auch unterschrieben worden vom Chef des Chat-GPT-Erfinders Open AI,
nämlich Sam Oltman, aber auch andere wie zum Beispiel Bill Gates.
Und ich finde, gerade bei diesen Menschen sollte man hellhörig werden.
Und wenn man sich das mal durchliest, was die da zusammengetragen haben,
unterschrieben haben, dann empfehlen die oder postulieren die sowas wie einen
dringenden Handlungsbedarf zu einer Risikominderung.
Die haben so vier Punkte aufgeführt, wovor sie konkret waren und das fand ich
schon recht erstaunlich.
Einmal die Gefahr der sogenannten Malicious Use, also der böswilligen Nutzung,
sodass KI halt absichtlich für Schaden eingesetzt werden kann.
Dann gibt es die Warnung vor dem sogenannten KI-Race, also KI-Renn, A-I-Race.
Das ist ja irgendwie sowas wie ein Wettrüsten der KI-Entwickler,
die halt zu Risiken führen kann, die wir gar nicht überschauen können zum jetzigen
Zeitpunkt, zum Beispiel eine neue Form von Cyberkriegsführung unter anderem.
Dann haben die außerdem gewarnt vor sogenannten organisatorischen Risiken.
Das heißt, selbst wenn mit guter Absicht etwas entwickelt wird,
kann es im Use Case ja trotzdem noch zu Unfällen kommen.
Und dann haben wir als letztes die Warnung vor sogenannten Rook-AIs.
Das sind die sogenannten abtrünnigen KIs. Das heißt nicht, dass eine KI jetzt
loszieht und irgendwas kaputt macht, sondern es geht eigentlich eher darum,
dass man schon wirklich aufhorchen, finde ich.
Ich finde das also super spannend. Ich glaube auch jeder Punkt von dem,
den du da vorstellst, der ist absolut legitim und wir sind jetzt in einer Situation,
wo diese Dinge wirklich besprochen werden müssen und auch wirklich durchdacht werden müssen.
Da ist ja auch immer diese Debatte, die EU hat ja schon angefangen Richtlinien
zu entwerfen und auch gewisse KIs zu stoppen oder die Anwendung von KIs zu stoppen.
Andere Länder machen das nicht. Ich bin auch immer so ein bisschen frech und
sage natürlich sagen die das, weil das natürlich auch ein unglaublich guter Werbesprech ist.
Und jetzt hat ja auch der Chef von ChatGPT gesagt, ja, wir wissen,
wie man Superintelligenz bauen und entwickeln kann.
Das ist, also ich bin, du hast auf jeden Fall einen Punkt und ich finde,
alle Punkte haben eine Daseinsberechtigung, aber dass genau diese Leute davor
warnen, macht das Thema so interessant.
Und die gesellschaftliche Debatte, die ist dann richtig angefeuert und wenn
man dann noch sagt, wir haben übrigens die super Intelligenz von morgen,
und alle wollen nämlich eben mitrüsten, das was du da angesprochen hast,
das Wettrüsten von KI, dann möchte ich natürlich der große Big Player sein,
der im AI-Business unterwegs ist und mir fällt immer mehr auf,
dass ich dann schon auch manchmal denke, okay ähm.
Man muss das durchdenken auf jeden Fall, diese Risiken muss man vernünftig an
der Stelle von den wirklichen Experten diskutieren und die Frage ist,
ob das dann wirklich gemacht wird und ob sich die Firmen auch darauf einlassen, diese Regeln,
wenn es denn dann welche gibt, wenn sie entwickelt werden,
ob man sie denn einhalten will oder ob man sagt, das macht uns doch den Markt kaputt.
Und das finde ich ist eben sehr, sehr, sehr spannend, auch an diesem ganzen Rennen,
weil Philipp ja auch diesen Wendepunkt angesprochen hat, denn das sind Voraussetzungen,
dass wir uns jetzt darum kümmern, dass solche krassen Entwicklungen,
die man nicht mehr kontrollieren kann, dass sie gar nicht erst passieren.
Ja, wenn man sich auch mal anschaut, wie Länder wie Deutschland darauf reagieren,
muss man schon sagen, dass diese Sorge, die da transportiert worden ist,
auf uns schon irgendwie übergeschwappt ist.
Ne, also versucht er hierzulande nicht sowas wie eine Reglementierung zu machen,
da verlässt man sich so ein bisschen auf die EU-Ebene, sondern es gibt,
Handlungsempfehlungen, da ist zum Beispiel ganz weit vorne das Bundesamt für Sicherheit in der,
Informationstechnik, die hat neulich erst wieder eine Publikation rausgehauen
zu den Chancen und Risiken großer KI-Sprachmodelle das in deutscher und englischer
Sprache, das ist so ein 36-seitiges Dokument, das habe ich im Übrigen mal in
die Show Notes gepackt, dass ihr euch das mal durchlesen könnt, ähm.
Das adressiert vornehmlich an Unternehmen und Behörden, die halt Large Language
Models in ihre Arbeitsabläufe irgendwie integrieren möchten.
Und ja, das kann man dann als Grundlage für eine Risikoanalyse nutzen.
Das heißt, man versucht den Menschen schon irgendwie was in die Hand zu geben,
wo man sagt, pass auf, wenn ihr da irgendwie in irgendeiner Form Zweifelsgruppel
habt oder sonst was, hier haben wir Möglichkeiten und Handlungsempfehlungen.
Auf der anderen Seite geben wir das auch den Menschen an die Hand,
die sich vielleicht darüber auch noch nicht so viele Gedanken gemacht haben.
Was ich da sehr interessant finde, ist, wenn man das vergleicht mit der Wahrnehmung
von Large Language Models und allgemein künstlicher Intelligenz im öffentlichen Raum,
wird schon klar, dass es doch vielleicht eher darum gehen kann zu beruhigen.
Denn ich habe jetzt relativ aktuelle Zahlen bekommen von dem Statistica Research Department.
Die Zahlen sind vom 9.1.2025.
Und da sieht es gerade so aus in Deutschland, dass laut der im letzten Jahr
erstellten Umfrage 24 Prozent der befragten KI für eine potenzielle Gefahr halten.
Und das ist so ein bisschen widersprüchlich zu dem, wie ich den Use Case von
KI und auch irgendwie die Position zu KI irgendwie wahrnehme.
Wenn ich nachfrage, bekomme ich ein gegenteiliges Bild. Wir benutzen es zwar,
aber anscheinend gibt es dort eine sehr gesunde Skepsis in unserem Land.
Und das fand ich sehr beeindruckend. Genau, das wollte ich tatsächlich fragen,
wer hat denn teilgenommen an der Umfrage? Also wird das in Deutschland durchgeführt?
Das ist in Deutschland durchgeführt worden, ja. Und diese, also ich fand das
interessant, du hast ja gesagt, ich habe die Schüler gefragt und du hast jetzt
gesagt, die haben, sehen das als Gefahr, ähm.
Jetzt finde ich, müsste man das ein bisschen differenzieren.
Das ist ja relativ platt zu sagen, ich sehe das als Gefahr.
Denn ich verstehe sehr wohl, dass man sagt, ich sehe das als Gefahr für meinen Arbeitsmarkt.
Philipp hat ja auch schon mal so Sachen angesprochen. Ey, ich bin jetzt hier
im Medienbusiness und jetzt kann die KI Bilder zum Beispiel generieren,
ich verliere meinen Job oder ich bin Schreiberling für irgendwas.
So eine Scheiße, davor habe ich Angst. Oder ist es eben die Angst vor den Aspekten,
die du angesprochen hast, von dieser Unkontrollierbarkeit, von dem Missbrauch
von KI, weil das ja, ich sag mal, das ist ja die Frage,
wie in unserer Gesellschaft KI-Akzeptanz entstehen kann, wenn ich einen Use
Case sehe und sage, ey, das ist cool, das bringt mir was, ich nutze das gerne.
Oder ich wirklich Angst vor Kriegen habe, vor diesem Missbrauch,
was ich sowieso in meinen privaten Diskussionen, wird ganz viel von diesem Deepfake-Missbrauch,
dass also quasi die KI-Videos von etwas generiert, das so gar nicht stattgefunden
hat, also eine Präsidentenrede fälscht oder vielleicht auch die Klassenkameradin
den Klassenkameraden in der Situation darstellt,
die unschön ist und man verbreitet das in den sozialen Medien.
Das sind für mich so nahbare Sachen, wo ich sage, da habe ich direkt Angst vor.
Und das andere Krieg und Entwicklungsmissbrauch von KI, das sind ja eher abstraktere Themen.
Deswegen wäre ich einmal so frech und würde fragen, was war so das Meinungsbild
der Schüler oder konntest du da in dieser Studie da etwas mehr differenzieren?
Wovor haben die Leute Angst? Also ich habe die Studie, also den Link zu den
Zahlen, habe ich euch natürlich in die Shownotes gepackt.
Ich kann erstmal nur von heute berichten, weil ich das ein bisschen persönlicher
und ein bisschen eindrucksvoller fand, denn ich habe auch nachgefragt,
was findet ihr denn letztendlich da so komisch dran in der ganzen Geschichte.
Und die sehr undifferenzierte Rückmeldung war, das ist mir irgendwie unheimlich.
Ich weiß, ich schreibe mit einer Maschine und habe das Gefühl,
dass ein Mensch vor mir sitzt.
Da haben alle ganz eifrig genickt. Das muss man sagen, dass die Schülerinnen
und Schüler, die waren so 16 Jahre alt ungefähr.
Auf die Frage hin, ob sie denn Large Language Models wie ChatGPT benutzen,
haben alle mit Ja geantwortet.
Und auf die Frage, wie sie denn letztendlich oder woher diese Skepsis letztendlich
kommt, war das subjektive Gefühl ganz weit vorne,
also dieses komische Gefühl von, ich schreibe hier irgendwie mit einer Maschine
und es fühlt sich so menschlich an, das finde ich irgendwie gruselig das ist Punkt Nummer 1,
Aber das, was auch kam, war, ja, wir haben ja schon mit unseren Lehrern in verschiedenen
Fächern über das Thema KI irgendwie gesprochen in ganz vielen Zusammenhängen.
Und da ging es auch ganz oft anscheinend um das, was Orti gerade sagte,
nämlich der Missbrauch von KI-Tools, die frei zugänglich sind,
die mit Bild- und Videomaterial beispielsweise arbeiten.
Diese Sensibilisierung ist natürlich notwendig, wenn man so ein bisschen im
pädagogischen Bereich unterwegs ist, dann wissen wir auch,
dass im Horizontalen letztendlich auch die sogenannte Medienkompetenz eine Kompetenz
ist, die es zu vermitteln gilt und da spielt natürlich auch der Use Case KI
mittlerweile eine große Rolle.
Ja, aber da scheitern wir ja auf voller Linie schon bei sozialen Netzwerken
und also ich sag mal, ich finde ja natürlich, da hast du recht,
aber das ist so, wo ich denke, naja,
aber dann hast du mal irgendwie zwei, drei Stunden soziale Medienkritik und dann sagt man Achtung,
das und das postet man auf Facebook aber nicht und dann war es das,
also so richtig kompetent bilden wir ja gar niemanden aus und die Schulen würde
ich jetzt mal mutmaßen. auch nicht dementsprechend ausgebildet sind.
Da kann ich euch noch andere Geschichten erzählen. Da sind wir total hinterher.
Aber trotzdem findet die Diskussion im Klassenzimmer statt und das finde ich erstmal in Ordnung.
Das ist ja gut so, auf jeden Fall. Von meiner Warte aus. Wir befinden uns ja
nun mal aktuell im Wahlkampf.
Das bedeutet, wir stehen kurz vor vorgezogenen Neuwahlen in Deutschland.
Vor diesem Prozess dann auch genau für das Thema Deepfakes zu sensibilisieren,
die ermöglicht werden können durch KI-Tools, die auf Large Language Models basieren,
ist auch nicht der falsche Weg. Und jetzt mal zurück zum Thema zu kommen.
Ich betrachte aber genau solche Diskussionen auch als Mit- Hauptverantwortungsträger
für eine Skepsis, die es anscheinend hierzulande gegenüber von KI gibt oder gegenüber KI gibt.
Was ja erstmal von meiner persönlichen Warte aus auch erstmal völlig in Ordnung ist.
Ich rutsche die ganze Zeit hier schon auf den Stuhl rum, weil ich da zu diesem
Deepfake-Ding glaube ich, das schließt sich gerade So ein bisschen der Kreis.
Wir haben in der letzten Folge darüber gesprochen, wie eine weitergehende KI-Entwicklung
aussehen könnte, insbesondere auch im medialen Bereich oder im Kulturbereich.
Und da haben wir gesagt, dass uns immer diese immer gleichen oder sehr ähnlichen
KI-Vorgekauten Inhalte eventuell auch langweilen können.
Und dass es so eine Rückbesinnung auf tatsächlich zum Beispiel Theater oder
also Mensch-Mensch-Interaktion kommt.
Was ich ganz interessant finde bei dieser ganzen Deepfake-Diskussion ist ja
im Endeffekt, dass man keinem Bild mehr trauen kann und keinen Videoaufzeichnung
mehr trauen kann. Der Witz ist...
Wir konnten das und hätten das niemals gedurft. Und wir konnten das auch noch nie.
Also selbst das erste, also ein Foto, also ein doofes Foto ist immer aus der
Sicht des Fotografens und der vielleicht den Ausschnitt komponiert. Da fängt es an.
Fotoretuschen sind so alt wie die Fotografie selber. Und ich will damit sagen,
wir haben vor Fotografie und vor
Videoaufnahmen haben Menschen Zeitungen konsumiert. Da saß ein Redakteur.
Der Mensch war nicht bei dem Ereignis dabei und er hat auch nur,
der im Idealfall, also der, sagen wir mal, der normale Arbeiter zum Beispiel,
hat ja nur eine Zeitung konsumiert.
Das heißt, er hat den Sachverhalt, um den es hier ging, nur von einem Redakteur
in schriftlicher Form gelesen.
Was ich damit sagen will, ist, ich glaube, dass sich unsere Gesellschaft wieder
daran gewöhnen muss oder noch stärker sozusagen wieder darauf zurückbesinnen
muss, dass es hier eine Vertrauensfrage ist.
Wer ist der Absender der Botschaft und, glaube ich, diesen Inhalt?
Und ich halte das für wirklich zentral, dass wir wirklich keinem Bild,
keinem Video oder irgendwas mehr vertrauen.
Das ist ja überall möglich und vor allem es war immer schon möglich,
das Video, das Bildmaterial so zu bearbeiten, wie es der Absender gerade wollte.
Und sind wir mal ganz ehrlich, also ich finde das mega spannend,
weil es gibt so, weil ich hatte auch jetzt ein langes persönliches Gespräch
auch mit einer sehr, sehr guten ehemaligen Kollegin,
die auch gesagt hat, die auch diese Skepsis hat und die auch sagt,
boah, diese Deepfake-Sachen und so, das macht mir alles Sorgen und ich habe
auch ein bisschen argumentiert und habe gesagt, naja,
aber zum Beispiel falsche Berichterstattung oder Propaganda oder Dinge in einem
anderen Kontext setzen.
Fotoretuschen und so weiter und so fort, das gibt es schon lange.
Das ist ein anderes Medium, ist klar.
Und das ist auch ein Medium, wo man sagen kann, ich kann echt und unecht nicht
voneinander unterscheiden.
Aber das ist genau das, wo ich denke, das ist in dem Kontext super wichtig zu
wissen, was sind meine Quellen.
Diese Kritik zu hinterfragen, ist das echt, ist das nicht echt.
Und das passiert ja jetzt auch schon ohne diese ganzen Deepfakes,
wie viele Berichte werden gefaked und so weiter und so fort werden in den sozialen
Medien geteilt, das ist für mich nicht immer ein Phänomen, das ist ein Phänomen
des Menschen das ist so wie.
Auch Mobbing, Mobbing hat eine andere, hat jetzt andere Möglichkeiten,
das moderner umzusetzen, aber das hat es früher auch schon gegeben und es war
früher genauso schlimm, wie
es heute ist und es muss auch, natürlich muss dagegen was gemacht werden.
Ich möchte auch noch mal in aller Deutlichkeit Lob an alle engagierten Lehrer
aussprechen, die das wirklich in ihrem Unterricht bearbeiten.
Ich sage nur, weil ich mich gerade so kritisch geäußert habe,
das möchte ich gar nicht so böse sagen, es ist nur so ein bisschen auch meine
Erfahrung, dass Deutschland immer, sag ich mal, zehn Jahre zurückhängt in dem,
was man wirklich jetzt tun müsste,
um 16-jährigen Jugendlichen wirklich eine Medienkritik, eine Informationskritik aneignen zu können.
Und dafür muss ein ganz anderer Lehrplan her. Das ist aber vielleicht nochmal ein ganz anderes Thema.
Nur, genau, also die Debatte brauchen wir auch nicht führen.
Nur ich wollte mich da so ein bisschen wieder zurückhalten und es gibt super engagierte Lehrer.
Nur das Ding ist halt eben, ja, das Medium ist ein anderes oder das Mittel ist
ein anderes, aber das hat es schon
immer gegeben und KI gibt uns neue Möglichkeiten, das Gleiche zu tun.
Falsch Informationen zu streuen oder Missbrauch mit Videos und sonst irgendetwas zu betreiben.
Es ist aber kein neues Phänomen.
Ganz genau. Ich möchte da vielleicht eine Sache ergänzend noch zu sagen,
weil wir gerade mal kurz bei diesem Schulthema gewesen sind.
Und das geht jetzt mal kurz an die Hörerinnen und Hörer da draußen.
Wenn ihr mal Bock habt, euch zum Thema Deepfake und Fake News zu informieren.
Die Kultusministerkonferenz und die Bildungsministerien der Länder haben eine Webseite.
Und auf diesen Webseiten kann man sich Infomaterial und Schulungsmaterial umsonst
zu diesen Themen herunterlagen. Und die sind wirklich gut aufgearbeitet.
Das heißt, wenn es da wirklich mal Interesse gibt, ein bisschen tiefer in dieses
Thema einzutauchen, dann sei hier mal der Hinweis gestattet,
dass man sich dort informieren kann und entsprechendes Material bekommen kann.
Glaubt ihr denn, wenn wir bei diesem spannenden Thema sind und mal einmal den
Science-Fiction-Motor anschmeißen?
Philipp hat einmal argumentiert in der letzten Folge, man ist es irgendwann
leid und man wird unsicher.
Wir haben gerade darüber gesprochen, ich weiß irgendwann nicht mehr, was die Realität ist.
Es gibt so viel Content, so viel Material und ich als Mensch oder ich als Gesellschaft,
ich als Gesellschaft, ja genau, wir als Gesellschaft sind unsicher.
Ähm, sorry. Also wir als Gesellschaft, wir sind so verunsichert in diesem ganzen
Wulst, weil wir weder den, sag ich mal, öffentlichen, rechtlichen,
noch den sozialen Medien,
noch unseren Nachbarn und so weiter trauen und unsere Türen zumachen,
weil wir nicht mehr trennen können, was wirklich ist und was nicht wirklich
ist in diesen sozialen Netzen und was auch immer, was im Netz alles kursiert.
Glaubt ihr denn, dass es möglich ist, dass eine Gesellschaft,
das war so meine Argumentation, dass man vielleicht irgendwann sagt,
wir haben ja auch über Reglementierung gesprochen, dass man sagt,
solche Sachen müssen ein Wasserzeichen bekommen. Jetzt mal so ganz blöd.
Also quasi, dass ein Video, ein Deepfake-Video als Deepfake-Video gekennzeichnet werden muss.
Hier handelt es sich um digitalen AI-Content, künstlich generierten Content.
Glaubt ihr, dass man sowas durchsetzen kann? Natürlich wird es da auch Missbrauch
geben und es wird auch versucht, dann solche Wasserzeichen zu entfernen und, und, und.
Aber dass man generell sagt, okay, das ist, es wird so reglementiert,
dass man sowas reinsetzt und man sagt, okay, ich erkenne. Ich glaube,
technisch müsste es, wenn, andersrum laufen.
Also technisch müsste es eher so sein, dass Bilder, die unbearbeitet sind oder
die eine gewisse oder nicht KI generiert sind, dass die eher ein Gütesiegel
bekommen müssen. Zum Beispiel.
Das ist hier Proven, Re-Content, keine Ahnung.
Wobei da auch die Frage ist, zählen da auch Filter?
Zählt da auch eine Photoshop-Bearbeitung? Jedes Bild, was man sieht,
ist in irgendeiner Form bearbeitet?
Da könnte man ja Kriterien sagen, es gibt jetzt zehn Güte-Kriterien und dann
kriegt dieses Siegel in Anführungsstrichen, das ist ein echtes Video,
eine echte Aufzeichnung.
Ich persönlich glaube, dass das nicht funktioniert, weil ich glaube,
der Aufwand ist viel zu groß und die Anfälligkeit ist zu groß,
dass es tatsächlich gehackt werden kann oder gehackt werden wird.
Ich könnte mir eher so etwas, einen eher unreglementierten.
Stillschweigenden gesellschaftlichen Konsens vorstellen, nämlich,
dass es etablierte Medienhäuser gibt, etablierte Publizisten gibt,
die ihre Aufgabe machen.
Nachkommen, nämlich Informationen zu sammeln, Informationen zu trennen nach
wahr, nach unwahr, nach fake, nach nicht fake, Informationen zu sortieren und
die in einem Thema aufzubereiten.
Also sprich klassischer Journalismus. Ich glaube, dass es tatsächlich Institutionen
heute bereits gibt und die wird es auch wahrscheinlich weitergeben.
Also ich glaube, das ist im Grunde eine Vertrauensfrage.
Wie ist es auch nach wie vor. Ja, also weil ich glaube zum Beispiel einfach
erstmal schlicht meiner Frau,
wenn sie mir, weil du gerade dachtest, du hast es ja weiter runtergebrochen,
bis in den Nachbarn rein, bis in die Familie rein und ich glaube zum Beispiel erstmal per se,
wenn meine Frau irgendwas auf der Straße sieht, davon ein Foto machen und mir
das schickt, glaube ich erstmal, dass das definitiv unbearbeitet ist,
weil das halt von meiner Frau kommt und das ist halt ein Ein-Uhr-Vertrauen und ich glaube auch,
dass wir für uns Medienhäuser eben definieren und da gebe ich dir recht,
diese Medienhäuser, die müssen strengen Regularien unterliegen,
also da muss es wirklich klar sein, dass es journalistische.
Werte gibt. Es ist einfach wirklich journalistische Werte, eine Recherchepflicht und so weiter.
Das muss hochgehalten werden, sodass wir hier grundsätzlich über Vertrauen reden.
Ich möchte halt einfach nochmal an die Zeitungen erinnern, die auch ein gewisses
Vertrauen genossen haben.
Gerade zu Zeiten, wo es noch keine Bilder gab und noch keine Bewegtbilder und
Tonaufnahmen gab, sondern wo es einfach nur diese Zeitungen gab und wo eine
Rede von irgendeinem Politiker abgedruckt wurde,
Es wäre ja ein einfaches gewesen, diese Rede zu kürzen, zu verdrehen oder einen
anderen Software hinzuschreiben, aber das gab es halt nicht.
Und deswegen glaube ich das so.
Naja, es gibt ja auch sowas wie einen Kodex bei Journalisten.
Eine Selbstregulierung in irgendeiner Form, das schon dafür sorgt oder eigentlich
dafür sorgen soll, dass man versucht, Quellen in irgendeiner Form zu verifizieren,
denen nachzugehen und so weiter.
Also ich finde den Gedanken von Philipp erstmal gut, dass solange es irgendwie
in irgendeiner Form Journalismus gibt, der sich selbst verpflichtet ist oder
auch den Menschen, denen sie Nachrichten zukommen lassen,
dass wir dann doch die Chance haben zu erfahren, ob etwas in Ordnung ist oder nicht.
Also das Thema Vertrauen spielt eine ganz große Rolle. Das macht ja auch viel
für unsere Science-Fiction-Geschichte, wenn man dann wirklich sagt, okay,
es gibt einige wirklich zertifizierte Rechercheinstitute oder sonst irgendetwas,
wo man sagt, okay, die haben diese Regeln und da kriegst du Informationen,
die möglichst ungefiltert sind,
jetzt in Anführungsstrichen oder nach diesen Richtlinien funktionieren.
Finde ich, ist das auch eine spannende Erzählung, denn ich gebe dir recht.
Philipp, was du gesagt hast, einmal sozusagen mit der Polizei,
die jetzt nach Content guckt und sonst was, dafür wird es, glaube ich,
viel zu viel Müll im Internet geben, dass du dem nicht her wirst,
also du kannst das dann einfach nicht kontrollieren.
Es gibt dann, es ist ja so wie mit Facebook,
wo du jetzt, wenn du Missbrauch Sachen meldest und so gibt es ja auch Leute,
die ständig gucken, was für Inhalte da drin sind, die da eigentlich nicht drauf
sein dürfen auf diesen sozialen Netzwerken und die nehmen die runter.
Das schaffen die aber alle gar nicht, letzten Endes.
Das heißt also, ich würde schon sagen, ja, das ist ein Thema.
Nein, du musst, glaube ich, da unterscheiden.
Du hast gerade nämlich genau die Unterscheidung nicht getroffen.
Du redest von Medienhäusern auf der einen Seite und nennst Facebook direkt im...
Ja, ja, nee, genau, das ist nicht das Gleiche, ist klar. Genau,
und das muss man, glaube ich, ganz klar trennen.
Also zum Beispiel habe ich den Eindruck, und da bin ich ziemlich von überzeugt,
weil ich auch weiß, wie die Kollegen arbeiten,
dass zum Beispiel unsere Newsredaktion, also ich arbeite beim Deutschen Medienhaus,
beim Deutschen Fernsehmedienhaus, und da weiß ich,
dass da ganz sicherlich journalistische Standards aber sowas von hoch gehalten werden.
Und Kollegen, die sich da vertun oder nur vom Hören sagen, irgendein Gerücht
in die Welt streuen, da aber achtkant rausfliegen beziehungsweise massive Probleme haben und.
Ich möchte auch den Erzählungen nicht aufsitzen, weil diese Erzählungen sind
letztlich von extremistischen Kräften in dieser Gesellschaft erzählt oder geschürt.
Dass man diesen etablierten Medienhäusern eben nicht mehr trauen kann.
Also das ist ja genau das Phänomen, was wir in der Gesellschaft haben und das
ist ja auch so etwas, wenn man sagt,
KI generierte Deepfakes und sonst irgendwas, das ist ja ein unglaubliches Machtinstrument
und wir sehen ja, dass eben, also du sprichst da über Vertrauen in den Medien
und genau das will unsere Gesellschaft ja im Moment nicht mehr wahrhaben.
Die sind ja dann eher eben in den anderen Medien unterwegs,
in den sozialen Netzwerken, wo eben genau diese Richtlinien nicht greifen und
unsere politische Situation verändert sich radikal.
Wenn du in die Zukunft spinnst, in die Zukunft weitergehst, kann es nur so funktionieren,
dass wieder ein gewisses Maß an Vertrauen hergestellt wird und wir ganz klar trennen zwischen,
das ist Unterhaltung, das ist für mich ein soziales Medium, also wo ich mich
mit Freunden treffen kann, virtuell, das wird ja dann mit, was weiß ich,
noch irgendwie ausgebaut mit Metaverse und so weiter,
worüber ich aber keine Informationen generiere.
Und ich glaube, da sind wir nicht. Da sind wir noch lange nicht.
Aber das ist vielleicht so meine heere utopische Vorstellung.
Aber ich glaube, nur so kann funktionieren.
Der Großteil dieser Menschen angab, dass wenn sie auf der Suche nach Informationen
sind im Netz, TikTok bemühen.
Und das fand ich schon furchtbar erschreckend, muss ich sagen.
Gehen wir mal bitte einmal kurz zurück auf das Thema KI, also unser Kernthema eigentlich.
Wir haben jetzt gerade festgestellt, dass wir eigentlich ein systemisches Problem letztendlich sehen,
nämlich, dass wir hier ein neues Tool haben oder eine neue Möglichkeit haben
und wir eigentlich nicht so ganz genau wissen, wie es funktioniert und deswegen
da auch eine gewisse Skepsis kommt und wir schon erfahren haben.
Dass auch dieses neue Tool dazu eingesetzt werden kann, Menschen zu schaden.
Und ich glaube, dass diese Skepsis, die da entstanden ist, mitverantwortlich
dafür war, dass einige Länder dieser Welt entschieden haben,
dass es hier Handlungsbedarf gibt und dass man hier Regeln aufstellen muss.
Und da ist ganz prominent erstmal die EU, die im August letzten Jahres die KI-Gesetze
auf den Weg gebracht hat.
Das ist ein Rahmenkonstrukt, an dem man sich so ein bisschen orientieren kann.
Das wird noch ausgebaut.
Also es ist auch so aufgebaut, dass man es ausbauen kann.
Das möchte ich euch mal ein Kürze vorstellen, damit man so ungefähr weiß,
worum geht es denn eigentlich.
Wird ja viel darüber erzählt, aber am Ende ist es recht easy zu verstehen.
Der Grund, warum man das überhaupt gemacht hat, ist, man möchte Vertrauen auch
in KI schaffen, denn man darf nicht vergessen, das ist ein Markt und Europa
möchte natürlich auch in diesem Markt existieren und möchte auch von diesem
Markt profitieren, das ist klar.
Und das bedeutet auch, dass den europäischen Unternehmen die Möglichkeit gegeben
werden muss, diese Technologie sicher zu nutzen, in einem Rahmen zu nutzen,
der mit unserem Werteverständnis irgendwo einhergeht, um dann irgendwie auch
in der Welt nicht den Anschluss zu verlieren.
Da setzt natürlich auch die Kritik an diesen Gesetzen an, dazu später aber mal,
da können wir auch gerne drüber diskutieren.
Also das ist der Grund, man will irgendwie Vertrauen in diese KI auch schaffen,
in diese Möglichkeiten schaffen, aber auf der anderen Seite auch klar machen,
dass es Risiken gibt und die in irgendeiner Weise ausgrenzen aus dieser ganzen Geschichte.
Und abgesehen davon, dass die EU da eine Vorreiterrolle haben möchte,
wenn es darum geht, ethische und nachhaltige Entwicklung von KI irgendwie zu fördern,
kann man sich natürlich schon fragen, wie hält es in der Rest der Welt und ja,
passt das eigentlich so?
Ich halte es für ausgesprochen sinnvoll. Was hat die EU jetzt gemacht?
Man hat die KI-Gesetze in sogenannte Risikostufen eingeteilt.
Wir haben minimales Risiko, begrenztes Risiko, hohes Risiko und das inakzeptable Risiko.
Minimales Risiko in Bezug auf KI, davon spricht man, wenn man über Tools spricht,
die zu freien Nutzung zu verfügbar sind, zum Beispiel KI in Videospielen oder
Spamfiltern oder irgendwie sowas.
Dann gehen wir mal nochmal einen Schritt höher, dann haben wir tatsächlich schon
das begrenzte Risiko, das sind KI-Systeme mit potenziellen Transparenzproblemen,
so nennt man das zum Beispiel, wie beispielsweise gewisse Formen von Chatbots, die halt um,
Jetzt im Nachhinein klar als KI auch gekennzeichnet werden müssen.
Da haben wir jetzt wieder den Dreh, den wir vorhin schon mal in der Diskussion hatten.
Das heißt, man möchte eigentlich, dass Tools, die mit Large Language Models
arbeiten, die so etwas wie eine Menschlichkeit in irgendeiner Form simulieren
können, auch als solche gekennzeichnet werden sollen.
Auch die Kennzeichnung von Deepfakes ist das Ziel. Also im Prinzip genau das,
worüber wir gerade geredet haben.
Philipp ist der Meinung, das kriegen wir eigentlich nicht hin,
das muss eher ein Vertrauensding sein.
Ich finde es gar nicht so schlecht, wenn man sich dazu verpflichtet zu sagen,
alles das, was mit einer KI erstellt worden ist, wird auch automatisch mit einem Stempel versehen.
Ja, vielleicht muss man halt einfach, also klar, das ist ja auch Teil der Diskussion
gleich, aber es ist halt ein EU-Ding, ich finde das super, ich finde das genau
richtig, es ist halt genau das Ding, das ich sagen kann, ja,
ich kann trennen, ich rede hier mit einer unglaublich beeindruckenden KI,
ja, das ist vielleicht wie, als würde ich mit Menschen sprechen, aber ich weiß,
das ist ein Chatbot und ich weiß, das hier ist gerade ein Deepfake,
das ist eine unglaublich gute Regelung, nur weltweit, ja.
Anderes Thema, lass uns da gleich drüber sprechen.
Kommen wir zur nächsten Abgrenzungsstufe, nämlich KI-Systeme mit sogenannten
hohen Risiko und die werden jetzt auch mit strengen Regeln letztendlich versehen.
Hier geht es um KI-Systeme in kritischen Bereichen, beispielsweise Gesundheit
wie robbergestützte Chirurgie in der Bildung, wie zum Beispiel Systeme zur Prüfungsbewertung
oder Bildungszugänge steuern und so weiter.
Dann gibt es KI-Tools in Bezug auf die Arbeit.
Zum Beispiel CV-Sortiersoftware für Bewerbungsverfahren und sowas alles.
Strafverfolgung, auch ein Thema. Damit ist gemeint, glaube ich,
wenn eine KI eine Auswahl für oder gegen Menschen trifft.
Das war jetzt, glaube ich, nicht ganz, so hatte ich das immer verstanden.
Ja genau, ich habe es CV genannt, CV ist hier genannt, also wenn ich jetzt eine
Bewerbung habe, einen Lebenslauf habe und dass ich dann Tools einsetze,
die aufgrund von Stichwörtern beispielsweise selektieren sollen,
auch für die sollen strenge Regeln gelten.
In der Strafverfolgung wird ja auch KI eingesetzt, zum Beispiel zur Bewertung von Beweismitteln.
Auch hier sollen strenge Regeln greifen, genau wie beim Oberthema Migration,
zum Beispiel automatisierte Visa-Verfahren.
Aber auch all das, was mit uns, mit der Demokratie zu tun hat,
zum Beispiel Tools, die beispielsweise gerichtliche Entscheidungen unterstützen,
die während der Wahl helfen und so weiter.
Das sind Sachen, die strengen Reglements unterliegen sollen.
Und dann haben wir in letzter Instanz die sogenannten inakzeptablen Risiken.
Das sind KI-Systeme, die grundlegende Rechte bedrohen.
Zum Beispiel dieses Social Scoring, von dem wir mal gehört haben,
also soziale Bewertung durch Regierungen, wie es beispielsweise in China anscheinend auch der Fall ist.
Oder aber auch gefährliche Beeinflussung von Kindern, egal in welcher Form und Art.
Das sind Systeme, die verboten werden sollen.
Also ihr merkt schon, man versucht hier eine Risikoabstufung vorzunehmen,
die uns erstmal in irgendeiner Form einleuchtet, aber über die natürlich fortwährend diskutiert wird.
Das heißt, was empfinde ich denn als risikohaft, als minimal,
begrenzt, hoch oder inakzeptables Risiko?
Und was diese Hochrisikos-KIs eingeht, da geht es um Verpflichtungen,
die getätigt werden müssen.
Zum Beispiel vor der Inverkehrbringung, da werden so Konformitätsbewertungen
gemacht werden, so Risikominderungen, Sicherstellung von Datensicherheit,
Robustheit der Systeme, Dokumentation und Nachvollziehbarkeit, sowas alles.
Und wenn diese Systeme dann im Umlauf sind, müssen diese Systeme auch laufend
überwacht werden, das muss sichergestellt sein, durch Anbieter und Betreiber im Übrigen.
Da gibt es dann also quasi irgendwie auch eine Kontrollinstanz,
die jetzt innerhalb der EU sagt, jetzt ist für die und die Tätigkeit folgende
KI wird hier vorgeschlagen und dann wird erstmal geguckt,
wie wird die eingruppiert und wenn sie in eine dieser Skalen eingruppiert wird,
müsste man dann sagen, hey du darfst es nicht nutzen.
Erst mal, das dürfte eigentlich gar nicht entwickelt werden. Also das, gut.
Das war klar vorhanden. Es ist natürlich die Frage, woher bezieht man das,
woher bezieht man seine Systeme.
Aber es ist erst mal ein Grundgerüst, an dem jetzt weitere Gesetze,
dezidierte Gesetze andocken können.
Das ist auch gar nicht so blöd, gerade wenn es um Transparenz und Sicherheitsförderung
geht von leistungsstarken Modellen zum Beispiel, generative KI und so weiter.
Da muss man so ein bisschen schauen, wie wird sich da auch so ein bisschen der Markt entwickeln.
Ich könnte mir auch vorstellen, dass einzelne oder mehrere Länder der EU,
wenn die Druck machen, solche Gesetze auch wieder geändert werden können.
Absolut. Weil die Deutungshoheit über die Risiken, also wie hoch jetzt ein Risiko
ist oder nicht, die obliegt ja letztendlich dann den europäischen Staaten anscheinend.
Oder das globale Interesse, wenn man jetzt wirklich merkt, wir sind die letzten
Player, die anderen Länder machen jetzt krasse Sachen mit KI,
die sind viel schneller, die, was weiß ich, Entwicklungen in den und den Bereichen,
wenn wir da nicht nachziehen, dann sind wir am Arsch,
dann wird so eine Regel ganz schnell gekippt.
Da kann man den Niklas schön zitieren und sagen, ich würde die Entwicklung der
KI kulturell gerne unterschiedlich haben.
Schapöchen, sehr schön. Ja nein, aber so ist es ja, also das wird ja auch von
den KI-Entwicklern in Deutschland ja auch stark kritisiert, die sagen ja,
also die befürworten auf der einen Seite diese Reglementierung,
sagen aber auch ja, gleichzeitig schneidet mir das aber ins eigene Fleisch,
wenn ich mich daran halten muss und die Konkurrenz in anderen Ländern wesentlich stärker wird.
Und diese Regeln nicht befolgen muss und so könntest du in Deutschland vielleicht
einen Anschluss komplett verpassen, der dann auf dem globalen Markt komplett notwendig ist und dann.
Sitzt du wieder hinten dran, bist aber moralisch, ethisch auf dem richtigen Weg.
Das müssen wir glaube ich so ein bisschen differenzieren, weil ich glaube,
dass wir so ein bisschen vernachlässigen, welche Wirtschaftsmacht die EU nach
wie vor ist und wenn wir von einem ganzen Markt sprechen, der hier reglementiert
wird, auch im Use Case, dann ist es glaube ich auch schon wichtig, dass auch.
Ja, quasi Modelle, die von außen kommen, den Standards, die hier gelten,
einfach entsprechen müssen.
Und wenn sie dem nicht nachkommen, dann hoffentlich zieht das halt empfindliche
Strafen nach sich in irgendeiner Form.
Das heißt, man versucht halt schon, diesen europäischen Markt irgendwie sicher
zu machen in Bezug auf KI.
Ja, du hast recht, du hast es nochmal erweitert auf Europa. Also klar,
dann geht es halt nicht um.
Es geht ja um eine EU-Gesetz. Genau, richtig, weil ich ja jetzt argumentiert
habe in Deutschland, aber du hast schon recht,
wenn man diese Gesamtmacht Europa da mit bedenkt und diese Richtlinien innerhalb
und das ist ein riesiges System,
das an dem gleichen Strang zieht, ist das natürlich nochmal was anderes.
Da spielst du dann gegen vielleicht zwei, drei andere größere Player,
aber das ist schon richtig, deswegen klar, deutschlandweit kannst du das natürlich nicht denken.
Und was ich hier im Übrigen sehr interessant finde, wir haben in einer vergangenen
Folge darüber gesprochen, wie sieht es denn mit einer potenziellen Haftbarkeit in Bezug auf KI aus.
Und da ist Philipp reingesprungen, hat gesagt, im Prinzip ist die Person,
die entwickelt und promptet, verantwortlich.
Und so wie ich die Gesetze verstanden habe und so wie es kommen soll,
soll auch das der Fall sein.
Das heißt, die Menschen, die KI nutzen und diejenigen, die sie auf den Markt
bringen, die haften dann letztendlich auch, wenn es Probleme gibt.
Also nutzen, ich nutze ChatGPT und ich sage ChatGPT, es soll etwas für mich
tun, das wäre jetzt für mich der Nutzen.
Der Entwickler ist ja was anderes, also wer ist denn jetzt haftbar?
Beide tatsächlich. Also beide. So wie ich das verstanden habe,
beide. Ich schaue hier aber tatsächlich nochmal einmal kurz nach,
nicht, dass ich euch Scheiße erzähle.
Ähm, so wie ich das sehe, ist die Sicherstellung von Datensicherheit und Robustheit
der Systeme sowohl im Vorhinein als auch während des Use Cases zu gewährleisten.
So, das bedeutet in Bezug auf die Haftbarkeit sich jetzt erstmal diejenigen,
die diese Produkte auf den Markt bringen in der Pflicht, heißt für mich aber
auch, man bedient sich ja, so wie ich das verstanden habe,
bereits existierenden Large Language Models, die dann wieder zu neuen Produkten verfeinert werden.
Das heißt, wenn ich zum Beispiel ein Tool entwerfe, das auf Basis von beispielsweise
Chat-GPT oder anderen Large-Language-Models funktioniert, dann kann ich natürlich
auch haftbar gemacht werden.
So habe ich es zumindest verstanden. Ihr da draußen, wenn ihr da andere Informationen
habt, dann lasst uns das doch bitte einmal wissen.
Ich hatte es zumindest während des Lesens so verstanden, dass ich mir dachte,
aha, guck mal, das ist doch genau das, was der liebe Philipp in einer der vergangenen
Folgen auch mal so angemerkt hat.
Und ich sehe, er schüttelt gerade mit dem Kopf. ich glaube, oder habe ich dich missverstanden?
Also ich hatte das ja so ein bisschen soweit gesponnen,
Ich vergleiche das immer so gern so ein bisschen so mit YouTube und da jetzt
auch mit Facebook. Das ist ja im Prinzip eine ähnliche Debatte.
Ist die Plattform, also ist der technische Dienstleister verantwortlich für
den Content, der da hochgeladen wird?
Und da gibt es ja tatsächlich insbesondere im anglo-sächsischen anglo-amerikanischen
Raum gibt es da ja eine andere Auffassung davon, wie es das in der EU gibt also
in der EU ist es ja schon so, dass wir Facebook bitten versuchen das mehr oder weniger,
wirklich durchzusetzen, dass sie problematische Inhalte löschen,
aber die zieren sich so ein bisschen weil die halt wirklich ganz klar eine andere
Argumentation haben, die sagen halt, nee der User als solches ist verantwortlich
und ich hatte das in meiner Vision,
in Anführungsstrichen ein bisschen radikaler formuliert,
indem ich halt sagte, dass der User ganz bewusst eben verantwortlich ist.
Dahingehend, der nutzt eine KI und diese KI benutzt er, um zum Beispiel eine Arbeit durchzuführen.
Also er ist so angestellt irgendwo und hat eine Personal KI,
die er trainiert auf seinen Job und diese KI übernimmt ganz teilweise oder zumindest
zum hohen Prozentteil seinen Job.
Und dann sollte dieser Nutzer, dessen KI oder dessen KI-Anwendung,
ist es ja eher, diesen Job übernimmt, sollte haftbar sein.
Natürlich ist es so, wenn die KI jetzt einen groben Quatsch macht,
was eindeutig auf die Programmierung oder auf den Hersteller zurückzuführen
ist, gibt es da natürlich noch, in meiner Vorstellung, eben noch auch Möglichkeiten.
Den Hersteller zur Verantwortung zu ziehen. Aber eigentlich müssen wir doch
dahin kommen, dass der Nutzer die Verantwortung für das Produkt übernimmt.
Also ich klage ja auch keinen Messerhersteller an.
Das ist ja so ein Argument, was oft kommt, wenn ein Mörder mit einem Messer
einen Menschen verletzt oder umbringt.
Ich glaube, das war auch mein Gedankenproblem bei der letzten Folge,
dass ich gedacht habe, Moment mal, du kannst ja jetzt nicht genau die ganzen
Messerhersteller dafür verantwortlich
machen, dass irgendjemand Missbrauch mit einem Messer betreibt.
Jetzt konnte ich es aber etwas besser nachvollziehen. Niklas hat ja gerade gesagt,
es gibt die KI und es gibt denjenigen, der dann mit der KI ein missbräuchliches Tool entwickelt.
Dann könnte ich ja prüfen, warum hat diese KI, warum ermöglicht sie das?
Zum Beispiel schade dem Menschen in irgendeinem Form, das dürfte sie doch gar nicht.
Dann könnte ich dem Entwickler sagen, dein Algorithmus oder deine Deine KI lässt
Dinge zu, die eigentlich nicht zulässig sind, das verstehe ich und natürlich verstehe ich,
dass auf der Ebene, wenn ich jetzt keine Ahnung, hier eine Virussoftware prompte
und ich da mit Massenschaden anrichte oder irgendwo andere schlimme Dinge mit
KI mache, dass ich dann auch persönlich natürlich haftbar bin,
weil ich den Algorithmus sozusagen für schlechte Zwecke missbraucht habe.
Das ist ja, das gleicht ja so ein bisschen Flips Vision,
wenn ich das richtig verstehe, nur du hattest das im Arbeitskontext natürlich
auch gesagt, also ich habe drei verschiedene Jobs, die lasse ich über verschiedene
KIs laufen und sage den KIs, wie sie es machen sollen,
bin ich dann fahrlässig und wegen meiner Fahrlässigkeit kommt jemand zu Schaden,
dann könnte man auch sagen, ja, weil du diese KI nicht ordnungsgemäß bedient hast.
Ja, okay. Also jetzt haben wir eine wichtige Dimension besprochen,
was hier tatsächlich ein bisschen zu kurz kommt in diesem ganzen Konstrukt,
ist natürlich etwas, womit die Menschen hart fremdeln.
Ich habe ja das Beispiel gerade gebracht mit dieser Mini-Umfrage,
die ich heute mal in meinem Seminar gemacht habe.
Und ich habe mir schon Gedanken darüber gemacht, was ist denn eigentlich mit einem Phänomen,
Phänomen, dass man mitunter auch testen kann mit einem sogenannten Turing-Test.
Wisst ihr noch, was das ist? Das ist dort der Test, der letzten Endes beweisen
soll, ob mein Gegenüber ein Mensch oder eine Maschine ist.
Genau, also der Test prüft halt Nachahmung menschlicher Kommunikation und auch
die Fähigkeit von Maschinen, dem Fraker zu täuschen.
Da geht man auch davon aus, muss man davon ausgehen, dass eine Maschine solche
sogenannte Lügen zweiter Ordnung beherrscht, also das Nachahmen menschlicher Emotionen.
Der Test wird halt gerne mal benutzt, um eigentlich vordergründig richtige künstliche
Intelligenz, die uns täuschen kann, halt irgendwie zu bewerten.
Und das ist insofern jetzt gerade mal relevant, als dass es ein sehr interessantes
Phänomen bei uns Menschen gibt.
Und das ist glaube ich auch etwas, was den Menschen mitunter Angst macht,
zumindest wenn ich jetzt mal die Kommentare heute aus dem Seminar einfach nehme,
nämlich das Problem, dass wir mittlerweile schon Chatbots haben,
die, wenn ich nicht weiß, dass ein Chatbot hinter steht, ich mitunter davon ausgehen könnte,
dass sich dahinter ein Mensch bewegt.
Der Mensch neigt zu einem total witzigen Phänomen. Das ist der sogenannte Anthropomorphismus.
Ich weiß nicht, ob ihr das schon mal gehört habt.
Also Anthropos ist Mensch und Morphe ist die Form oder die Gestalt.
Das ist im Prinzip die Zuschreibung menschlicher Eigenschaften.
Zum Beispiel gegenüber Tieren, Vermenschlichung.
Das ist ein unglaubliches Phänomen. Der Mann im Mond, da ist ein Gesicht im Mond.
Ja, genau. Das heißt, wir schreiben Dingen, Gegenständen, aber auch Tieren,
menschliche Eigenschaften zu und mit dieser Idee wird ja schon auch in der Science-Fiction-Welt
unfassbar gut rumgesponnen.
Das heißt, ein Teil der Wahrnehmung einer künstlichen Intelligenz,
die ich als irgendwie menschlich betrachte,
ist der Mensch selbst, der nämlich seine Eigenschaften aufgrund von Wahrnehmung
in das Gegenüber, also Maschine oder Tier, hineintransportiert.
Wie Hundebesitzer gerne Emotion, aber auch Motivation in Tiere hineininterpretieren,
die sie so aber wahrscheinlich gar nicht hatten.
Das ist insofern wichtig, als wir hier natürlich auch eine Gefahrenquelle haben
in Bezug beispielsweise auf Betrug.
Ist ja auch bekannt, dass es da auch schon Systeme gibt, mit denen versucht
man Menschen irgendwie auch um ihr Erspartes zu bringen.
Das sind natürlich Systeme, die so nicht erlaubt sind, aber es sind zum Beispiel
genau diese Mechanismen, die dafür sorgen können, dass eine wachsende Skepsis
gegenüber von KI-Sprachmodellen halt aufkommen kann.
Dazu hat sich tatsächlich auch der Deutsche Ethikrat mal geäußert und hat da
auch mal klare Kante bewiesen.
Sie haben sich nämlich im Vorfeld mal darüber Gedanken gemacht,
wie sieht denn eigentlich Mensch-Maschinen-Kommunikation jetzt in Zeiten von
KI aus und wo muss die Grenze sein?
Und da habe ich mal ein Zitat mitgebracht, eben aus diesem einen Werk,
das sich dann konkret damit beschäftigt.
Ich zitiere, es wird der Softwareentwicklung der Zukunft vermutlich im wachsenden
Umfang gelingen, menschliche Fähigkeiten zu simulieren und in vielen Fällen zu übertreffen.
Das sollte uns aber nicht dazu verführen, impersonale Eigenschaften zuzuschreiben,
die für genuine menschliche Existenz essentiell ist.
Verdammte Tat benutzen die viele Fachbegriffe. Also.
Auch die sind der Meinung, dass es dort so etwas wie eine Gefahrenquelle gibt
und man muss unterscheiden zwischen einer menschlichen und einer missionellen Intelligenz.
Würden sie eine Gefahr nicht sehen, würden sie so etwas nicht formulieren.
Und ich glaube, dass dort auch mit Sicherheit noch in Zukunft weitere Gesetze
folgen könnten, so meine Vermutung zumindest, die auch da hineinstoßen.
Die sagen, wir setzen der Vermenschlichung oder der Möglichkeit der Vermenschlichung
von KI irgendwann Grenzen. Das wäre eine Vermutung von mir.
Und jetzt würde mich mal wirklich interessieren, wie steht ihr dazu?
Ich finde das mega spannend.
Ich sehe bei dem, du hattest jetzt diese Gefahr von Betrug angesprochen,
ich sehe noch eine andere Gefahr, die hatte ich auch mal in Dokumentationen gesehen,
im Sinne von wirklich therapeutischen Ansätzen, wo jetzt ein Chatbot wirklich
therapeutisch agiert oder es gibt ja auch virtuelle Freunde und sonst was.
Und ich sehe ein bisschen die Gefahr, gerade weil du dieses Phänomen so schön
angesprochen hast, dass ich das Ding vermenschliche.
Siri ist jetzt mehr mein Freund als meine wirklichen Freunde.
Und je perfekter diese Systeme sind und je besser sie antworten,
so könnten sie übergefällig sein.
Also dieser Algorithmus reagiert immer auf meine Stimmung, macht mich glücklich,
diese Maschine macht mich glücklich, weil sie erkennt, oh die hat gerade schlechte
Laune, der muss jetzt mal Metal hören,
keine Ahnung und sagt, ja wollen wir nicht auf ein Heavy Metal Konzert gehen,
ja cool, das ist ja eine super Idee.
Du übrigens meine Freundin, die kommt nie auf solche Ideen, die steht ja noch
nicht mehr auf die Musik oder sonst was und so könnte es an sozial,
also uns als Gesellschaft könnte es schwer fallen,
wenn solche Systeme so richtig krass sind, dass man sagt, ja wir haben hier
den perfekten Menschen gegenüber und dass man sagt, ja dann sind meine Mitmenschen.
Interessiere mich vielleicht gar nicht mehr so. Ich möchte mich nur noch mit
dieser Maschine beschäftigen.
Ich glaube, wir kommen in unserer Vision immer ganz oft auf diese Übersättigung.
Also ich glaube, das ist so lange,
bis man irgendwann sagt, jetzt habe ich davon auch die Schnauze voll.
Aber dieses Potenzial, es gab jetzt auch Studien,
dass die Gesellschaft immer mehr sich isoliert und immer mehr vereinsamt und
natürlich auch immer mehr Möglichkeiten hat,
sich auf eine andere Art und Weise zu beschäftigen und auf diesen wirklichen
Mensch-zu-Mensch-Kontakt nicht mehr angewiesen sein zu müssen.
Und da sehe ich die Gefahr, dass wenn dann solche Systeme da sind,
die wirklich so gut sind, dass
ich mich auch noch stundenlang mit einem Roboterfreund unterhalten kann.
Ja, dass da wesentliche menschliche Dinge einfach gesellschaftlich in Gefahr sind.
Aber um das jetzt genau auf unser Universum und auf Science Fiction und vor
allem auch auf Literatur und Science Fiction zum Beispiel zu übertragen,
sehe ich genau in dem Punkt,
den wir jetzt gerade diskutieren, die große Aufgabe und die große Stärke von
Science Fiction, nämlich genau solche Szenarien zu zeichnen.
Das muss nicht unbedingt immer eine Dystopie sein, das kann auch tatsächlich
eine Utopie sein oder man muss vielleicht auch gar nicht so richtig zuordnen
in irgendeine Richtung.
Um auf solche möglichen Gefahren hinzuweisen, um aber vielleicht auch grundlegend
die Frage zu stellen, was ist menschlich?
Und definieren wir, müssen wir irgendwann Menschlichkeit nochmal neu definieren?
Inwieweit, also das finde ich eine ganz interessante Frage. Nein, das ist made by human.
Das made by human ist interessant, aber auch diese ganze Thematik des Transhumanismus, der Cyborgs.
Ist es irgendwann überhaupt relevant, ob ich mich mit einem Roboter unterhalte,
der vielleicht genauso ein Teil der Gesellschaft sein kann in seiner Art von Existenz?
Oder ich mich mit einem Freund unterhalte? Also ist das denn überhaupt schlimm?
Also diese Frage könnte man sich auch stellen.
Ja, und sie wird tatsächlich aktuell mit Nein beantwortet.
Also das ist das Statement, das aktuell so steht.
Und ich finde die Vorstellung irgendwie krass, dass man sagt...
Schmeißt das vielleicht auch mal irgendwann über Bord. Ja, aber genau das finde
ich, genau, genau, genau, aber genau das finde ich spannend.
Dahingehend, wo es weh tut. Allen unseren Zuhörerinnen und Zuhörern,
euch auch, mir eingeschlossen, glaube ich, sträuben sich die Nackenhaare,
diese Frage überhaupt zu stellen.
Ist das irgendwie ein Problem, dass man sich vielleicht lieber mit seinem Roboterfreund
unterhält, jetzt so gespitzt, als mit seinem Nachbarn oder als mit seiner Frau.
Aber ich glaube schon, ohne dass wir diese Frage stellen müssen.
Natürlich rede ich jetzt nicht über ein Szenario von 2025, wo wir uns mit einem
Textgenerator unterhalten. Das ist eine andere Dimension.
Aber jetzt denken wir doch mal weiter und haben unseren persönlichen KI-Assistenten,
der vielleicht sogar visualisiert wird, der vielleicht sogar auch,
keine Ahnung, vielleicht kann der auch springen oder Teile von ihm,
Teile von Apps sind in meinen Geräten drin.
Das ist einfach ein menschlicher Roboter, der auch noch wahnsinnig fantastisch
aussieht und den du dir so zusammenstellst, wie du es gerne haben möchtest.
Also das ist ja, also das ist ja, ehrlich gesagt, die humanoiden Roboter,
guckst du da auch in die aktuellen,
News, das ist, die sind da. Das ist auch keine Science Fiction mehr.
Und die Vorstellung, dass wir, keine Ahnung, wahrscheinlich,
da würde ich, ich meine, als Sci-Fi-Fan würde ich es ja wirklich feiern,
wenn unsere Enkel oder unsere Kinder vielleicht immer mal sagen,
boah, ja, der Orti, der ist jetzt 70, 75.
Was sollen wir dem noch schenken? Der wünscht sich auch irgendwie nichts.
Dann kriegt er so einen KI-Butler.
Also so einen Roboter-Butler, so wie man früher so dem Oppern-Relax-Sessel gekauft hat oder so.
Und das Beste ist, wenn du dann 85 bist, dann wird noch das Software-Update
zum Thema Pflege aufgespielt und dann ist es nicht nur ein KI-Butler oder ein
Roboter-Butler, sondern kann dich auch noch pflegen.
Genau, dieses Modell kann doch später auch noch die Pflege übernehmen.
Aber ehrlich gesagt, das finde ich, ja, na klar ...
Das wird kommen und ich glaube auch, wir haben am Anfang der Folge so schön
gesagt, wir sind an diesem Wendepunkt, wo wir noch nicht genau wissen,
wo das hingeht, aber es kommt.
Ey, da habe ich mir übrigens eine Frage zu aufgeschrieben. Du hast gesagt,
wir sind jetzt an dem Punkt und keiner weiß, wo es hingeht.
Und da habe ich mir aufgeschrieben, da wollte ich eh nochmal drauf zurückgehen.
Ich halte das für eine zentrale Aufgabe von Science Fiction,
wo wir auch Teil dessen sind, eine Welt zu formen, eine Idee zu formen,
eine Vision dessen zu formen, wo es hingehen kann.
Und es obliegt hier an uns, und das tun wir ja gerade in dieser Diskussion,
wie wir es ausgestalten wollen.
Und das ist ja das Spannende und das finde ich die allergrößte Chance an Science
Fiction und deswegen finde ich das so unglaublich wertvoll, wichtig und vor
allem das, was wir eigentlich nie sein wollten, weil wir eigentlich Nerds sind,
die Bock auf Raumschiffe haben,
sind wir extrem politisch, aktuell und gesellschaftlich relevant tatsächlich
mit so einem blöden Science Fiction Podcast und das muss man einmal in den Köpfe reinkommen.
Aber es geht auch nicht anders, wenn wir das Ding hier durchdenken wollen.
Es ist unsere Geschichte, das ist klar, aber wir kommen, wir müssen diesen Punkt
irgendwie durchdenken und wir müssen ihn gesellschaftlich durchdenken.
Ich habe da, ich merke bei mir manifestiert sich so ein Ding,
dass ich sagen würde, es ist unaufhaltsam. Ich möchte nochmal Niklas hier zitieren.
Die Schüler sagen, ich habe Angst davor, aber ich nutze es trotzdem.
Okay, jeder nutzt es, es gibt diese Skepsis, aber es kommt.
Und wir haben auch immer gesagt, was entwickelt wird, wird entwickelt.
Das heißt, alles, was wir so ein bisschen, wovor wir auch Angst haben,
das, was Niklas auch vorgestellt hat, das wird alles irgendwo da sein.
Es wird diesen Missbrauch geben, es wird korrupte KIs geben,
es wird Roboter geben, es wird auch bestimmt irgendwann maschinelles Bewusstsein kommen.
Die Frage ist eben, wie reagiert die
Gesellschaft darauf und was wird reglementiert und was sind die Folgen?
Gibt es dann keine Technik mehr? Wir haben, Philipp hat romantisiert über dieses,
naja, die Mensch-zu-Mensch-Interaktion wird immer wichtiger und vielleicht kommt
man auch in einem Punkt der KI-Sättigung, dass die Gesellschaft sagt, wisst ihr was?
Roboter sind mir scheißegal, diese ganzen Videos sind mir scheißegal,
ich kann das alles nicht mehr trennen, wir wollen das alles nicht mehr und auch
da quasi gibt es erstmal einen riesen Boom an Entwicklung und irgendwann sagt
man, nee, wir sind ihm überdrüssig.
Und die könnte ich mir so vorstellen, dass sich das dahingehend äußert,
dass während meine KI, vielleicht mein KI-Butler, wo wir gerade beim Thema waren,
also mein KI kombiniert, wir
reden ja gerade darüber, dass eine KI kombiniert mit einem Roboter ist.
Ich meine, das ist ja jetzt nicht, das ist jetzt irgendwie ein total logischer Schritt irgendwie.
Und wer weiß, vielleicht kann es ja so sein, dass mein Butler gerade den Haushalt
macht, während dein Butler, Ortie, auch den Haushalt macht und während dein Butler, Niklas,
auch den Haushalt macht Und wir drei uns einfach auf der Hütte auf Lanzarote
oder was genau da, nämlich treffen,
einen wunderbaren menschlichen Abend miteinander verbringen,
weil wir vielleicht, ne, die Instinkte,
unsere menschlichen Urinstinkte sind immer noch da, wir sitzen vielleicht wieder um ein Feuer rum.
Und vielleicht spielt uns Niklas was von seiner Musik vor.
Wir trinken guten Whisky und freuen uns einfach an den Erlebnissen und haben
dann für den Moment bewusst, vielleicht für ein Wochenende, weil wir entfliehen
wollen oder so, diese ganze Technik ausgebildet.
Gehen wir wieder in den Alltag, nutzen wir weiterhin diese Assistenten.
Ich merke, dass so für mich diese Reise gedanklich da hingeht,
also so eine Koexistenz mit diesem ganzen Kram und natürlich, also die Reise.
Machtmissbrauch und so weiter und so fort und das wird auch ganz viel Stoff
für spannende Geschichten geben, also irgendwelche großen Konzerne,
die dann mit dem neuesten KI-Entwicklungstool das und das entwickeln auf jeden Fall,
aber ja, das ist eine coole, ich finde es eine coole Vorstellung zu sagen,
die Gesellschaft ist einmal hochkatapultiert worden mit all den Möglichkeiten der KI,
da hat es einen riesen Boom gegeben und irgendwann ist diese Blase auch ein
bisschen zerfallen und man hat sich eben wieder auf das Menschsein.
Fokussiert oder das ist gesellschaftlich das, was gerade wieder viel mehr in
den Fokus rückt und da setzt dann ja vielleicht auch unsere Geschichte viel
mehr wieder an und da könnte man eben auch wieder wunderbar argumentieren,
dass obwohl das alles möglich ist und obwohl es das alles gibt,
es gar nicht so viel genutzt wird oder von der Gesellschaft vielleicht sogar abgelehnt wird.
Mir fällt da eine kleine Geschichte zu ein, wenn ich beispielsweise Mehrgenerationsschiff
habe, das darauf angewiesen ist, dass zwischendurch Leute wach werden und die
Systeme warten, Werden die mit Sicherheit von KIs unterstützt,
damit sie sich auch nicht so einsam fühlen.
Und vielleicht kann aus einem so Prozess des Akzeptierens einer solchen KI als Notwendigkeit,
eine sehr persönliche menschliche KI als Notwendigkeit auch resultieren,
dass man sich im Nachhinein viel offener demgegenüber zeigt,
wenn die Menschen dann landen.
Das könnte ich mir auch vorstellen. Ich könnte mir aber ebenso vorstellen,
das, was ihr gerade postuliert habt.
Nee, ich bin einfach froh, jetzt wieder mit Menschen interagieren zu können.
Wir reduzieren die Möglichkeiten einer künstlichen Intelligenz auf das Notwendigste.
Also da lassen sich wirklich viele Storys erzählen. Total.
Und es muss auch nicht immer, ich glaube halt, Otti, was du gerade gesagt hast,
eine Koexistenz, da glaube ich,
wird irgendwo dieser Mittelweg irgendwie verlaufen. Also im Sinne von.
Regularien hinher, ich glaube nicht, dass es wirklich eine gesetzliche Verordnung
gibt, wir verbieten KIs, das kann ich mir nicht vorstellen, dass das irgendwie
ansatzweise durchsetzbar ist, ich kann mir aber schon vorstellen.
Und dass das auch jemand wirklich macht, ich fand das immer ehrlich gesagt,
bei Dune gab es das ja auch so, irgendwann gab es dann Butler's Dschihad und
dann wurden die ganzen Maschinen verboten.
Im kompletten Universum und dann denke ich mir, wer hält sich denn da dran,
als würde das auf einmal funktionieren. Das ist mir immer so ein Schwarz-Weiß.
So, Bums. Ich brauche jetzt irgendwie eine Erklärung dafür, weil ich das nicht
haben will und dann ist es halt verboten.
Ich glaube, das ist auch das, was wäre,
Eine sehr faule Geschichte, wenn wir einfach sagen, und dann ist alles explodiert
und der Zentralrechner ist kaputt gegangen und deswegen ist dann auch die KI
kaputt gegangen und dann gab es die nicht mehr, weil keiner hat sie neu entwickelt oder irgendwas.
Wir wollen da einfach ein bisschen realistischer bleiben. Ich glaube,
dass der Mensch diese Art von Technologie auf jeden Fall mitnehmen wird und
sie unterschiedlich für sich auslegen und nutzen wird.
Ich fand es erstmal interessant zu schauen, wie stehen wir heute dazu.
Ich bin auch mal total interessant, ich hoffe zumindest noch so lange zu leben
wie nachfolgende Generationen, die dann auch einfach mit diesen Tools groß werden,
wie die letztendlich darauf reagieren und wie sie das wahrnehmen und wie befremdlich
das vielleicht auch für uns sein wird. Da freue ich mich ehrlich gesagt auch ein bisschen drauf.
Kann aber trotzdem nicht verleugnen, dass meine Skepsis gegenüber diesem Thema
letztendlich immer noch da ist, weil wir einfach nicht das Wissen haben aktuell,
womit haben wir es hier denn eigentlich zu tun, bis es so selbstverständlich
geworden ist, dass wir uns diese Frage gar nicht mehr stellen.
Ähnlich wie bei anderen Systemen, die im Laufe der Menschheit so aufgetaucht
sind. Und dass gewisse Risiken auch einfach in Kauf genommen werden.
Das war ja bei fast jeder technologischen Entwicklung so. Insofern,
ja, also das ist zumindest mal so ein Startpunkt, an dem wir jetzt stehen.
So empfinde ich das zumindest gerade nach dieser wirklich elendig langen Reihe
zum Thema KI, dass wir jetzt ungefähr eine grobe Vorstellung haben,
wie könnte es aussehen. Ja, da möchte ich mich tatsächlich dahingehend anschließen, Niklas.
Vielen, vielen Dank für deine Recherchen. Vielen Dank für die Impulse,
die du hier nochmal reingebracht hast.
Und ich fand das wirklich in den letzten beiden Folgen hochinteressant,
dass wir wirklich jetzt an Themen gehen, die wehtun.
Also sich über Raumschiffantriebe zu unterhalten ist nett, tut aber wirklich
gar keinem weh. und da ist eher so eine fast schon infantile Technikbegeisterung zu spüren.
Und jetzt aber wirklich gehen wir an den Kern der Themen und wenn Orti sagt,
das wäre ein bisschen...
Bisschen faul ist es schon zu sagen, der Zentralrechner ist kaputt, es gibt keine KI mehr.
Stimme ich dir absolut zu und ich glaube, wenn wir eine Lösung,
eine Vision entwickeln und beschreiben können im Götterkomplex-Universum,
wie mit KI umgegangen wird und vielleicht auch, wie es Impact auf die Gesellschaft
hat, wenn wir da wirklich konkrete Sachen definieren können.
Dann folgen wir einer Vision, einer Science-Fiction-Vision, ob sie dann eintritt in 50, in 100 Jahren.
Das müssen andere bewerten, aber das finde ich, glaube ich, das großartige und
die großartige Chance, die wir mit diesem Projekt haben, nämlich wirklich eine
Vision aufzuzählen, aufzuzeigen,
wo es hingehen kann, die vielleicht sogar auch einfach letztlich eine Warnung
ist, weil man merkt, okay, wir beschreiben hier Dinge, weil wir automatisch
in so einen Loop reinkommen, die vielleicht gar nicht so cool sind.
Aber auch das ist, finde ich, ein Beitrag, ein wertvoller gesellschaftlicher
Beitrag zu unserer aktuellen Diskussion.
Und das ist irgendwie spannend, weil das wollten wir eigentlich nie sein.
Und genau das sind wir gerade. Deswegen vielen, vielen Dank dazu.
Ich kann mich da auch nur anschließen, also ich merke so aus den letzten Folgen
und auch aus der Folge heute,
da ist so viel Zündstoff drin, den wir überhaupt gar nicht final beantworten
können, das merken wir auch, wir drehen uns dann manchmal im Kreis,
wir diskutieren hin und her, wir bleiben manchmal gar nicht bei den Themen,
weil man schon wieder ein neues Fass aufgemacht hat,
weil KI global ist, es wird alles irgendwie mit betreffen.
Und ich finde aber gerade diese Impulse, wo man, Philipp sagt immer so,
da wo es wehtut ist die Geschichte und die Geschichte ist bei KI in so vielen
Bereichen, Niklas hat so schön gesagt, hier sind Gefahrenquellen,
die identifiziert werden und hier sind Ängste.
Ich habe Angst vor der Maschine, aber ich vermenschliche auch die Maschine und so weiter und so fort.
Das sind so viele Phänomene, die damit verbunden sind.
Und das ist, ich merke immer mehr, dass ich halt auch Bock habe zu sagen,
ich möchte das Thema nicht mehr technisch sozusagen behandeln,
so was ist jetzt noch möglich und was könnte jetzt in einer Woche der nächste
Schrei der KI-Entwicklung sein und welcher Roboter hat jetzt wieder eine neue
Fähigkeit entwickelt und wer kann jetzt wahrhaftig, keine Ahnung,
da gibt es wieder ein neues Gerät, dies, das, jenes.
Das interessiert mich immer weniger, sondern eigentlich haben wir durch diese
Folgen diese groben Themen aufgemacht.
Was hat das für Auswirkungen auf unser Leben? Die großen Themen, nicht nur grob.
Ja, also auf jeden Fall, da wollte ich gar nicht so unterreden,
sondern irgendwie, also erstmal, was ist möglich und dann, welche Auswirkungen könnte das haben?
Und ja genau, wichtig ist, dass wir für die Schritte, die wir erzielen wollen,
eine logische Herleitung entwickeln, dass wir dann sagen, wenn der Zentralrechner ausgefallen ist,
Warum hat dann keiner weitergemacht oder wie auch immer. Oder wenn die Menschheit
gesagt hat, wir möchten, wir hatten diese ganze KI, wir hatten irgendwann eine
Sättigung, wir sind jetzt müde, deswegen wurden gewisse Dinge einfach nicht
mehr weiterentwickelt, weil sie nicht mehr verkauft worden sind.
Das sind alles irgendwelche Gründe, die wir brauchen und die wir erzählen müssen
in unserem Zeitstrahl für irgendeinen Status X, wo man sagt, so da sind wir jetzt.
Und das ist schön, da können wir uns jetzt wieder frei austoben und hätte Bock auf den Sci-Fi-Motor.
Und mit diesem Stichwort und einem kleinen Blick auf den Timer,
der hier unerbittlich hoch tickt,
würde ich uns jetzt mal in den Abend und euch, liebe Hörerinnen und Hörer,
in den, weiß ich auch nicht, was auch immer ihr macht, in den Feierabend,
ins Bettchen oder auch zur Arbeit, wo auch immer ihr gerade seid, hinschicken.
Nochmal vielen, vielen Dank für die angeregte Diskussion letzte Folge war auch
schon über eine Stunde, diese wird auch wieder über eine Stunde sein ich glaube,
das zeigt wirklich nochmal die Intensität und es macht mir großen Spaß,
macht mir vor allem auch großen Spaß mit euch zusammen den Science-Fiction-Motor anzuschmeißen.
Ihr Lieben da draußen wenn ihr jetzt auch Bock habt, hier etwas beizutragen,
einen Diskussionsbeitrag, könnt ihr uns zum Beispiel in den Kommentaren auf
YouTube schreiben, was zum Teil genutzt wird.
Ihr könnt aber auch direkt in unseren Discord kommen. Da ist der Link unten
in den Shownotes verlinkt oder uns einfach eine Mail schreiben,
an info at götterkomplex.de Es wird alles gelesen und wir antworten in der Regel
auch, konnten hin und wieder mal ein Momentchen dauern, aber wir freuen uns
da auf euren Austausch und wenn ihr mehr.
Diskussionswürdige Themen habt, auch da sind wir über Themenvorschläge sehr,
sehr gespannt und freuen uns da.
So, jetzt aber. Ich würde mal sagen, wir huschen jetzt mal ins Körbchen.
Es ist hier nämlich schon recht spät.
Und ich würde sagen, ihr Lieben, wir verabschieden uns wie immer.
Diesmal mit einem höchstmenschlichen Energie.
Und zur Klarstellung, in der letzten Party Warhammer habe ich mich mit Philipp
auf ein Unentschieden geeinigt.
Oh, ich habe es gewusst.