Und zu Donald Trump muss man nochmal eins dazu sagen, der hat auch wirtschaftliche Interessen, dass das weiter brummt mit der KI. Die Quellen aus dem Weißen Haus berichten in amerikanischen Medien, dass der tatsächlich Angst hat. Der hat Angst vor China wegen dieses Wettrenns, der hat Angst vor dem Verlangsamen dieses KI-Booms, weil dann könnten die Märkte abstürzen und die ganze Wirtschaft auch crashen. Also das schlimmste Szenario, wenn ich skizzieren würde, ist quasi, dass die Menschheit langfristig die Kontrolle über ihre Zukunft verliert. Wie das ganz genau aussieht, kann ich nicht beschreiben. Vielleicht fühlt es sich sogar währenddessen noch ganz gut an. Den meisten Hühnern geht es ja auch noch irgendwie gut, bis zum Tag, wo sie geschlachtet werden.

So, herzlich willkommen zur Folge 74 von der Trump-Effekt. Größte Chance oder größte Gefahr? In der Welt der künstlichen Intelligenz überschlagen sich ja in den letzten Tagen und Wochen die Nachrichten. Und das Bemerkenswerte daran ist, dass ausgerechnet die Unternehmen, die einige der mächtigsten KI-Systeme der Welt entwickeln, warnen vor eben diesen Risiken ihrer eigenen Technologie. Zum Beispiel Dario Amodei, Gründer des KI-Unternehmens Antropic, hält es für möglich, dass künstliche Intelligenz schon bald in der Lage sein könnte, große Teile des Internets zu kontrollieren. Ein Entwickler von Antropic kündigte sogar mit der Begründung, die Menschheit sei in Gefahr. Auch andere reden von einer möglichen Auslöschung der Menschheit. Doch wie real sind denn eigentlich diese Szenarien und wo endet die berechtigte Warnung? Wo beginnt die Angst vor einer Technologie, die wir selbst noch nicht ganz vollständig verstehen? Und was sagt Donald Trump dazu? Nicht ganz unwichtig. Was macht Antropic und dessen KI-Modell Claude so besonders? Und welche gefährlichen Dinge haben KI-Systeme tatsächlich bereits angestellt? Darum geht es heute beim Trump-Effekt. Übernimmt KI die Macht? Und wir sind so richtig, ich sage mal, gegen den Zyklus. Alle reden über die Wahlen vom Wochenende und was das für Folgen hat. Wir reden über KI und zwar nicht in dem Sinne, ob KI auch Kanzler kann, sondern wir sind Katrin Eigendorf, ZDF-Sonderkorrespondentin. Hallo, liebe Katrin.

Hallo, in die Runde. Dann Ulf Röller, ZDF-Studioleiter in Brüssel. Hallo, lieber Ulf. Ich freue mich aufs Gespräch. Ich bin Elmar Tewissen, ZDF-Studioleiter in Washington. Wir nehmen auf am Dienstag, dem 22. September um 14 Uhr. Und ich freue mich ganz besonders, wir freuen uns, dass wir einen Gast haben, nämlich Benjamin Balde. Er arbeitet als Program Officer, so nennt sich das bei Control AI, das ist eine britische Non-Profit-Organisation für KI-Sicherheit. Schönen guten Tag, Herr Balde, grüße Sie. Hallo in die Runde. Ich freue mich deshalb, dass wir Sie hier haben, weil Sie haben mir am, ich gucke noch mal nach, 25. Januar eine Mail geschrieben und haben schon Alarm geschlagen in dieser Mail. Wir müssten dringend mehr machen über KI, weil das ist gefährlich. Und lange bevor die Großen der Industrie sich öffentlich geäußert haben, bevor auch die Politik aufmerksam geworden ist auf das Thema, sind Sie schon unterwegs und Control AI eben auch. Und können Sie mir oder uns mal sagen, was Control AI denn eigentlich so macht?

Ja, Control.ai ist, wie sie schon sagt, eine gemeinnützige Organisation, die in vier verschiedenen Ländern mittlerweile aktiv ist, vorweg in Großbritannien, Kanada, den USA und jetzt auch Deutschland. Und wir informieren Parlamentarier und halt auch die Zivilgesellschaft über die Risiken von fortgeschrittener künstlicher Intelligenz, sogenannter Superintelligenz. Werden wir aber sicherlich auch gleich nochmal genauer drauf eingehen, was das eigentlich heißt. Und kümmern uns vor allem um die Kontrollierbarkeit. Stellen die Frage, wie können wir sozusagen als Menschheit die Kontrolle über eine Technologie behalten, die wahrscheinlich alle unser Leben verändern wird. Und Sie sind gerade auch in Berlin unterwegs und reden mit Abgeordneten. Können Sie uns ein bisschen was dazu sagen? Ja, also in erster Linie und das ist quasi auch die Intention, wie ich da reingestartet bin, habe ich einfach festgestellt, wissen die Parlamentarier eigentlich das, was ich damals als Praktiker im Feld, tagtäglich am Sehen bin? Fühlen sie das Exponential, auf dem wir uns befinden? Also diese rapide Entwicklung, die wir am Sehen sind. Und habe mit meinem Abgeordneten damals gesprochen und der war ein bisschen schockiert, hat mich aber direkt weitergeleitet und habe dann sehr viele positive Rückmeldungen von Abgeordneten bekommen, hey, tausch dich mal mit mehr Leuten aus. Und jetzt habe ich mit hunderten von Büros geredet und habe tatsächlich auch festgestellt, so ein Austausch ist nötig. Man muss die Information, das Verständnis nochmal in die breite Masse tragen und auch eigentlich zu den Entscheidern selbst direkt hin bewegen.

Nun sind wir ja gar keine Entscheider, aber wir haben genauso wenig Ahnung zum Thema KI wie wahrscheinlich die meisten anderen. Das frage ich erst mal, Katrin, was ist eigentlich für dich KI? Oh je, also ich glaube, das, worüber wir ja hier reden wollen in der Runde, ist ja relativ spezifisch generative KI, das, was uns beschäftigt. Und das ist eine Möglichkeit, die entwickelt wurde, computergestützt eine Fülle von Daten nicht nur zu analysieren, sondern sprachgeschützt auch Schlussfolgerungen daraus zu ziehen, eigene Modelle zu entwickeln. Und ich glaube, der große Fortschritt in der generativen KI, über die wir sprechen, ist, dass eben diese Modelle.

Selber Realitäten kreieren können, die der menschlichen Intelligenz nicht nur gleichkommen, sondern uns, glaube ich, was die Geschwindigkeit angeht, Kombinationen zu ziehen und Kombinationsmöglichkeiten zu haben, oft überholt. Oh, hoffentlich habe ich jetzt nicht totalen Unsinn erzählt. Ja, das wäre mir gleich. Ich bin auch schon ganz gespannt, aber ich frage erst mal den Ulf, was verbindest du mit KI?

Also ich benutze es jetzt seit graumer Zeit. Es ist irgendwie, erinnert es mich an den Streber in der Schulklasse, den man hatte, den man nie getraut hat. Aber das Schöne an KI ist, er lässt sich permanent abschreiben. Und das führt dazu, dass du eigentlich schlauer und gleichzeitig dümmer wirst und denkfauler wirst. Und das finde ich das Spannende. Also das verbinde ich mit KI, mal ein bisschen zu viel Sand gesagt. Absolut. Also bei mir ist es so, KI war jedenfalls sehr lange für mich, eigentlich nur etwas, wo ich dachte, da wird so ein Gehirn nachgebaut und dann irgendwann sind die so schlau wie wir, sind die Maschinen so schlau wie wir und dann wird es wahrscheinlich gefährlich. Wir haben alle wahrscheinlich die Kinofilmer auch früher gesehen. IRobot beispielsweise mit Will Smith ist so ein Paradebeispiel dafür, wo die Roboter sich anschicken, die Macht in der Welt zu übernehmen. Aber jetzt sortieren wir erstmal die Definitionen. Beide helfen Sie uns mal. Unterschied künstliche Intelligenz, dann Artificial General Intelligence, generative KI und Super-KI. Was ist das alles? Ja. Ja, so fangen wir vielleicht erstmal bei KI als solcher an. Der Begriff wird mittlerweile auf alles Mögliche draufgelegt. Das heißt, wir haben frühere Systeme, wo man gesagt hätte, ich habe einen Algorithmus, also etwas, was regelbasiert funktioniert, was heute von einigen Leuten als KI tituliert wird, also als künstliche Intelligenz. Dann haben wir ganz, ganz viele Unternehmen, die bereits irgendeinen digitalen Prozess haben und da jetzt einfach KI dranhängen, weil es verkauft sich besser.

In erster Linie, wenn wir über künstliche Intelligenz reden, dann reden wir von quasi einer Form, dass wir dazu in der Lage sind, intelligente Outputs zu kreieren. Ist jetzt ein bisschen zirkulär, es liegt aber auch daran, dass wir als Menschen nicht ganz dazu in der Lage sind, zu beschreiben, was ist unsere Intelligenz. Deswegen ist sozusagen hier mal ein guter Messwert, den wir nehmen können, hat die KI irgendwie ein intelligentes Verhalten. Wir definieren häufig extern als Menschen, hey, wenn die KI das kann, dann ist sie intelligent, dann kann sie etwas auf einem gewissen Niveau. Warum habe ich das jetzt so erklärt? Weil wir das brauchen für die nächste Erklärung. Diese AGI, diese Artificial General Intelligence, wäre eine KI, die quasi dazu in der Lage wäre, generell zu sein, wie wir als Menschen. Wir als Menschen können uns neue Dinge selbst beibringen und sind nicht auf eine Domäne sozusagen limitiert. KI kann zum Beispiel Bilder heute erkennen, kann Texte generieren, kann Lieder schreiben, wird also in seiner Form immer genereller.

Und wenn wir uns jetzt vorstellen, dass der Mensch eine gewisse Form von Generalität hat, dann kann man sich auch vorstellen, dass man weit über das menschliche Niveau hinausgehen kann, sodass wir dann von einer Superintelligenz sprechen würden. Das heißt, es gibt Dinge, die wir auch als Menschen oder als Gesellschaft herstellen, die kein einzelner Mensch, auch wenn der einzelne Mensch eine generelle Intelligenz ist, herstellen könnte. Wir sitzen gerade alle vor irgendwie einem technischen Endgerät. Ich könnte niemals, wahrscheinlich auch in meiner gesamten Lebzeit, dieses MacBook nachbauen, weil da hunderte, tausende von Menschen dran beteiligt sind, die in einer sehr spezifischen Wertschöpfungskette dieses hochkomplexe Produkt abbilden können. Also sozusagen die Weltwirtschaft kann so ein komplexes Problem lösen, ich als einzelner Mensch aber nicht. Und wenn wir von Superintelligenz sprechen, geht es um Systeme, die dann dazu in der Lage wären, sehr viel autonomer und genereller zu sein als die gesamten Menschen, also als die Menschheit und auch die Leute, die damit diese Technologie am entwickeln sind. Darf ich nochmal nachfragen, damit man sich das plastisch auch vorstellt, woraus besteht dann diese künstliche Intelligenz? Sind das Computerprozessoren, die miteinander vernetzt sind und was muss ich tun, damit die halt besser werden, damit die halt lernen, damit die wirklich intelligent werden? Das derzeitige Paradigma, was genutzt wird, ist Deep Learning. Das heißt, diese Modelle, also wenn man von neuronalen Netzen spricht, man will irgendwie ein Gehirn nachbauen, dann fängt das natürlich erstmal irgendwie mit Mathematik an. Das findet ja irgendwie in einem Computer statt.

Was wir machen ist beim Deep Learning, dass wir eine große Menge an Compute nehmen, eine große Menge an Daten und dann damit ein Modell trainieren. Dieses Trainieren von einem Modell ist nicht gleich wie klassische Programmierung. Bei klassischer Programmierung schreibe ich Zeile für Zeile an Code. Bei dem Trainieren und Entwickeln dieser Modelle züchte ich mir quasi ein neues Modell. Wir können das gerne vertiefen, damit man das vielleicht noch ein bisschen besser versteht, wenn wir den Platz dafür haben. Was aber dabei rauskommt, ist, dass diese Modelle relativ groß sind, wachsen. Wir die Eingabe-Ausgabe-Beziehungen verstehen, also zum Beispiel, wenn ich ein Bilderkennungsprogramm habe, Das kann jetzt meine Bilder voneinander unterscheiden. Habe ich es mit einer Katze oder einem Hund zu tun? Ich verstehe aber nicht ganz genau, wie die Modelle das halt machen, weil wir die Modelle halt gezüchtet haben und nicht klassisch programmiert. Soll ich hier nochmal in eine Ebene tiefer gehen, damit das vielleicht noch ein bisschen greifbarer wird? Ja, versuchen Sie es mal. Mal gucken, ob wir mithalten können. Ja, sehr gerne. Also klassisch, wenn ich etwas programmiere, habe ich wie Abfragen, ich habe Konditionen, ich weiß genau, was mein Code eigentlich am Machen ist. Wenn ich ein KI-Modell trainiere, dann passiert das über mehrere Generationen hinweg. Ich kann vielleicht ein klassisches Beispiel bringen, was ich dann manchmal auch in den Gesprächen nutze. Ich versuche das mal am Beispiel einfach zu erklären. Sagen wir mal, wir trainieren eine KI, die.

Menschen von Tieren unterscheiden soll, also von Hunden zum Beispiel. Ich fütter die KI mit ganz vielen Bildern von Hunden und ganz vielen Bildern von Menschen. Und die KI kann sich sozusagen die Bilder angucken. Die weiß am Anfang, also wir haben ein zufälliges neuronales Netz. Stellen Sie sich deswegen Gehirn vor, wo die Neuronen einfach alle zufällig sind.

Und wenn ich jetzt nicht weiß, was ist ein Mensch oder was ist ein Hund, und ich rate einfach die ganze Zeit nur, dann wäre sozusagen der Wert, den ich erwarten würde, 50%. Jetzt ist das so, dass in dieser Generation, wenn wir die erste Generation jetzt an Modellen haben, wird irgendein Modell dabei sein, irgendeine KI, irgendein neuronales Netz, was 51% vielleicht hat. Was wir dann machen ist, wir nehmen dieses 51er-Modell, erstellen wie 10 Kindermodelle davon und haben jetzt als neuen Erwartungswert 51%, in der nächsten Generation kriegen die Modelle 52% hin. Jetzt müssen Sie sich vorstellen, machen wir das nicht mit zehn solcher Gehirne, solcher neuronalen Netze, sondern mit einer Milliarde. Und das machen wir über Milliardenrunden. Und weil das in einem Computer stattfindet, kann das innerhalb von sechs Stunden passieren, anstatt dass es halt wie in der Evolution zum Beispiel eine Million Jahre braucht. Man nennt diese Algorithmen deswegen auch evolutionäre Algorithmen, weil wir quasi Evolution am Simulieren sind. Und wir wissen dann, dass das Endergebnis, also das neuronale Netz, was dabei rausgekommen ist, die KI, die dabei rausgekommen ist, extrem gut da drin ist, Menschen von Tieren, also in dem Fall Hunden zu unterscheiden, Wir wissen aber nicht genau, wie das Modell das macht, weil wir sozusagen zwar in das Modell reingucken können, gucken können, welche Ebenen sind wann, wo, wie aktiv, aber wir verstehen nicht genau, was welche Ebene repräsentiert. Ähnlich wie vielleicht, wenn wir bei einem Menschen in sein Gehirn gucken mit einem FMRI-Scan und sehen, hey, diese Neuronen sind gerade aktiv. Dieses Gehirn-Areal ist gerade aktiv. Ich aber nicht weiß, welches Neuron ich austauschen muss, um die Persönlichkeit des Menschen zu verändern. Wenn wir jetzt das mal nehmen und an Katrin und Ulf die Frage.

Also wenn diese KI selber sich auch immer verbessert, man nennt das glaube ich rekursive Selbstverbesserung, habe ich nachgeschlagen. Richtig. Das heißt also, das, was an Ergebnissen rausgekommen ist, wird genommen und auf der Basis geht der nächste Schwarm den Schritt weiter. Und so wird sie immer besser, wird uns vielleicht irgendwann überholen. Was würdet ihr euch oder was habt ihr schon gelesen, wo man denkt, oh super, wenn da Schwarmintelligenz eingesetzt werden könnte, könnte man doch auch eine Menge Gutes tun und Probleme lösen? Ich hoffe, dass das jetzt Sinn macht. Ich wollte, bevor ich über Schwarmintelligenz spreche, eigentlich nochmal über meine Alltagserfahrung im halben Jahr oder dreiviertel Jahr KI, die ich benutze, feststellen, dass ich….

Erschrocken bin, wie gut die sich merkt, was ich sie alles gefragt habe. Also ich gebe zu meiner Schande zu, dass jetzt jede Anfrage, die endet, die ich stelle, endet mit dem Angebot, als TV-Journalist würde ich das so und so zusammenfassen.

Und jetzt habe ich ja schon dreimal gesagt, ja, ich werde bald kündigen. Wie würde das dann ein Bäcker zusammenfassen? Und darauf hat sie auch eine Antwort. Also das ist das Erste, dass ich ermerke, wie mich das fasziniert und wie schnell man vergisst, dass dahinter eine Maschine ist. Das zweite Geschichte, die ich erzählen wollte, ich habe von einem Kollegen, ich sagte, ich von jedem, der einen längeren Vortrag halten musste und dem dieser Vortrag zu lang war, wahrscheinlich ist das für Sie ja bald die banalste Erfahrung, aber für mich war das irgendwie erderschütternd und ich sage gleich warum, hat er gesagt, KI, fass mir das mal zusammen, das ist ein KI-Skeptiker, fass mir das mal auf eine DIN-A4-Seite zusammen und hat dann angeguckt, wie diese KI das zusammengefasst hat, und war beeindruckt, weil er ja seinen Text kannte, dass er sagen würde, Das war sehr, sehr gut in Lichtgeschwindigkeit zusammengefasst. Besser hätte er das wahrscheinlich auch nicht gemacht. Das waren alle wesentlichen Punkte, die er für wesentlich geachtet hat. Und entdeckte dann zwei Absätze. So hat er mir das jedenfalls erzählt. Ich hoffe, das stimmt. Wo er gesagt hat, komisch, habe ich das geschrieben? Und dann hat er die KI gefragt, wo kommen denn die zwei Absätze her? Und da hat ihm die KI gesagt, ich habe mal deinen Gedanken weitergedacht in die und die Richtung. Was hältst du davon?

Und er fand es gar nicht so schlecht, was sie gedacht hat. Also damit sehen wir, ein unglaubliches Potenzial für so einen Laien für mich, der also fast schon bald KI-süchtig wird, weil es für mich, habe ich den Eindruck, ich werde in Lichtgeschwindigkeit auch schneller, wenn ich gute Fragen stelle. Und sie denkt für mich mit und setzt Beziehungen. Wahrscheinlich kann man tausend Gründe nennen, warum das auch gefährlich ist. Und das bringt uns ja zu der prinzipiellen Frage und deswegen sind Sie auch bei Control.ie.

Wie weit führt dieses autonome System, kann Entscheidungen treffen, die eigentlich Menschen treffen sollen? Das ist ja die große philosophische Frage dahinter auch immer. Wie weit geben wir Technologie Macht, dass sie Entscheidungen trifft? Und irgendwann ich das Gefühl hatte, jetzt als Laie, und das wäre meine Frage an Sie, Herr Balde, dass wir an einen Punkt kommen, wo wir alle Fragen, wo wir Wissen sammeln durch die KI, dann uns aber auch Entscheidungsweg vorgegeben wird durch die KI, die wir gar nicht mehr ablehnen können, weil er so schlüssig ist und wir gar nicht anders denken können, weil die KI diesen Entscheidungsweg für uns entwickelt hat. Und das ist meine Frage, wie weit sind wir von solchen.

Themen weg und wie gefährlich sind diese Themen? Und dann kommen wir zu der Frage auch, wie sollen wir reagieren? Ja, so. Wir sehen das bereits heute schon. Also wir geben aktiv Verantwortung an ganz, ganz vielen Stellen jetzt schon ab an KI. Das heißt, in den meisten Marktumfällen ist das jetzt gerade so, es gibt noch keinen sehr, sehr starken Druck, KI überall reinzubringen. Es gibt aber schon den Druck, hey, wenn ich schneller sein möchte und ich möchte mehr Texte schreiben, ich möchte mehr E-Mails beantworten, ich möchte dazu in der Lage sein, Übersetzungsarbeit noch schneller zu leisten, dass ich die KI dann verwende. Und auch wenn es um Entscheidungsfindungen geht, sind diese Modelle ja auch nicht frei von Bias oder frei irgendwie von Ausrichtung und geben uns gewisse Wege vor. Und gerade wenn es in Bereiche geht, wo wir selber dann kein eigenes Wissen mehr haben und auch nicht mehr überprüfen können, ist das richtig, was die KI mir gerade sagt, wird es kritisch. Also das heißt, wenn ich kein Physiker, Chemiker bin, ich aber trotzdem versuche, gerade ein Medikament mit der Hilfe oder unter Anleitung der KI herzustellen, dann kann das eventuell funktionieren, kann aber auch sehr stark nach hinten losgehen. Und das ist vielleicht noch ein sehr schwacher Fall, wo es gefährlich wird. Gerade wenn wir irgendwie davon sprechen, dass wir die KI in militärische Entscheidungen integrieren oder auch in andere Systeme mit rein integrieren. Und dann haben wir es mit solchen Agenten zu tun und wir werden sicherlich gleich auch nochmal darüber sprechen, die zum Beispiel entgegen dem Menschen handeln oder sich aus ihrer Trainingsumgebung entfernen Oder andere Ziele verfolgen, die nicht gleich mit den Zielen sind von den Betreibenden.

Da würde ich schon die Frage grundsätzlich stellen, wollen wir das? Und wenn man dann sich die Frage stellt, wollen wir das und man kommt zum Schluss nein, dann glaube ich, ist das ein Arbeitsauftrag quasi an die Politik, weil das ja nichts ist, was ein Unternehmen in Selbstverpflichtung lösen kann. Solange wir uns in diesem kompetitiven Feld befinden, in dem wir gerade drin sind, ist es nicht möglich für ein Unternehmen unilateral zu sagen, hey, ich mach das ganze Spiel nicht mit, dann ziehen die ganzen anderen Webberates-Teilnehmer einfach an dem jeweiligen Akteur vorbei.

Das heißt, da sollte die Politik auf jeden Fall ins Handeln kommen und gleichzeitig aber auch kann ein Land alleine auch wieder nichts machen, ähnlich wie ein Unternehmen alleine nichts machen kann. Und dann sind wir in so einem globalen Problem, in einer globalen Situation drin, wo gerade zwei Länder, die USA und China, besonders viel Einfluss darauf haben, wie die Entwicklung weiter vorangeht. Lassen wir uns gleich über Schreckensszenarien mal reden. Mich treibt um, was kann es Gutes tun? Weil wir sollten das nicht vergessen. Also wir wollen nicht Technologie einfach mal so verteufeln von vorne weg. Ich sage mal aus dem eigenen Erleben, ich bin total beeindruckt von KI. Also ich habe mal in den letzten Jahren ja das eine oder andere Büchlein verzapft und habe der KI gesagt, mach mal einen Roman draus, das dauerte eine Minute. Dann war das Werk, an dem ich Monate geschrieben habe, in einen Roman verwandelt, der gar nicht so schrecklich war, sage ich mal. Was hast du denn dann herausgegeben, Elmar?

Der Roman wäre wahrscheinlich erfolgreicher gewesen, weiß ich nicht. Aber ich gucke momentan zum Beispiel wieder diese Fernsehserie, die kennt ihr alle, Dr. Haus. Das ist eine alte Fernsehserie, da geht es um einen etwas verrückten Doktor, der der beste Diagnostiker ist. Was also möglich wäre, die schlimmsten Krankheiten schneller zu diagnostizieren, aber es birgt ja gleichzeitig auch das Risiko, Also was, wenn die falsch liegt und man macht die Behandlung auf der Basis von dem, was die KI da ausgespuckt hat, ist es auch gefährlich. Und dieses Gruseln, das habe ich auch. Ich habe es auf meinem privaten Laptop installiert, eine KI, aber traue mich immer noch nicht, ihr zu sagen, okay, du darfst auf meine Daten und auf meine privaten Mails oder sowas zugreifen, weil ich da ein großes Misstrauen habe. Ich weiß nicht, ob es dir ähnlich geht, Katrin. Also ich arbeite schon seit längerem mit KI, habe festgestellt, ich habe ein ähnliches Experiment gemacht. Ich habe ein Buch geschrieben.

Und ich habe mit einer Freundin einfach das Experiment gemacht, dass sie einfach ganz viele Texte von mir in den Agenten eingeladen hat, auch ein altes Buch. Und wir haben gesagt, schreib mal ein Kapitel. Und es war furchtbar. Es war ganz furchtbar. Es klang einfältig, es klang dumm, es klang einfach ganz, ganz schrecklich. Und ich habe gerade in der Arbeit als Journalistin mit meinen eigenen Texten und der Strukturierung meiner eigenen Gedanken ganz, ganz schnell die Grenzen von KI festgestellt und teilweise wirklich das Gefühl gehabt, diese Systeme.

Reden mir nach dem Mund bzw. Spiegeln einfach wieder, was sie meinen gelernt zu haben, was mein Gemütszustand ist. Wo ich KI wirklich stark finde und es auch immer noch ganz viel nutze, ist als Sparingspartner, um sie zu challengen. Was denkst du wären jetzt die wichtigen Fragen, die wir erörtern müssten, wenn wir über zum Beispiel das Thema KI reden und so einfach in vielen anderen Bereichen. So meine erste sehr eindrucksvolle Erfahrung mit den positiven Begleiterscheinungen von KI war in Israel nach dem 7. Oktober 2023. War ja im Prinzip ein komplettes Volk total traumatisiert und es gab gar nicht genug Psychologen, sie zu behandeln. Und da hat mich das israelische Militär eingeladen in ein Militärkrankenhaus und hat mich vor eine KI gesetzt und hat gesagt, teste jetzt mal. Rede mal mit der KI, die wird feststellen, was du hast und wird dich in die und die Wege leiten. Und ich war total verblüfft. Ich war wirklich total verblüfft, was da an Antworten kam, was da an Rückspiegelung kam. Und das ist ja jetzt schon drei Jahre her. Da haben sich die Systeme ja.

Rapide verbessert. Aber ich glaube, dieser Faktor menschliche Kontrolle, Der ist enorm wichtig, gerade wenn man sich, da werden wir vielleicht auch noch drüber sprechen, mit den militärischen Fragen von KI-Einsatz beschäftigt. Da wird das, glaube ich, sehr, sehr klar, welche Gefahren auch darin liegen, wenn der Mensch aussteigt. Eine Frage zum Positiven noch, Herr Balde. Also kann man sagen, dass KI jetzt schon in der Anbindung ist und Gutes tut für die Menschheit? Natürlich. Also es gibt eine Vielzahl an spezialisierten KI-Anwendungen, wo ich selber ein riesen Freund von bin und glaube, dass wir auch eine riesen Wertschöpfung damit in Deutschland betreiben können. Tatsächlich Sachen wie AlphaFold, was von Google entwickelt wurde und wofür Demisters Habes ja auch den Nobelpreis in Chemie bekommen hat.

Hat die Forschung um ein Vielfaches beschleunigt. Das heißt, wir können heute schneller an Proteinen arbeiten, weil die KI halt sehr stark bei diesem Proteinfallproblem hilft. Muss man jetzt, glaube ich, nicht sehr in die Tiefe eingehen. Das ist ein sehr schwieriges Problem gewesen, wo KI halt jetzt am Helfen ist. Und ich glaube, das gilt für viele andere Bereiche auch, sei es Pharmakologie, sei es die Medizin, die Materialforschung, Dinge wie autonomes Fahren. Vielleicht kann man damit sowas wie eine Vision Zero erzielen oder dass die KI da unterstützt und Unfälle vielleicht vorbeugen kann oder auch vorher ahnen kann. Ich glaube, da gibt es eine Vielzahl an Möglichkeiten, die wir haben. Der große Unterschied ist, das sind alles Werkzeuge. Ich brauche immer einen Menschen als Intermediär, der irgendwas macht, damit irgendwas passiert. Bei den KI-Agenten, sobald ich die quasi einmal gerufen habe, also.

Geistert, ich rief, also wenn ich den KI-Agenten einmal losgeschickt habe, verliere ich bedingte die Kontrolle darüber, was der machen kann, wenn ich keine anständige Technologie habe, die das einfängt. Und jetzt gerade haben wir technologisch nichts, was die KI einschließen kann, sodass sie keinen richtigen Schaden anrichten kann, gerade auch unter den Wettbewerbsbedingungen, in denen wir uns befinden. Deswegen den einen Teil KI gerne machen, gerne spezialisierte Anwendungen bauen, gerne da auch weiter forschen, gerne auch in der Medizin verwenden. Da gibt es immer diese zusätzlichen Gedanken, die man sich natürlich machen muss, wenn man irgendwie Daten irgendwo eingibt. Wo gehen die Daten hin? Gerade bei sensiblen medizinischen Daten. Aber das sind Datenschutzbedenken. Die kennen wir bereits. Das ist ein Werkzeug. Bei dem anderen haben wir es mit einer neuen Risikokategorie zu tun. Malen Sie mal den Teufel an die Wand, basierend auf dem, was wir in den letzten Wochen und Monaten gehört haben. Vor allen Dingen von Entwicklern selber, aber auch von den Anführern der KI-Unternehmen.

Ja, also das war es ja auch, und das war ja glaube ich so ein bisschen auch ein Katalysator, wodurch ja nochmal sehr viel über das Thema gesprochen wurde, der Tweet von Herrn Jacob Coxen, der gesagt hat. Was soll Gott sagen, das ist der Entwickler von Anthropic, genau. Ja, richtig, richtig. Der vorher jahrelang bei OpenAI war und jetzt bei Anthropic im Pre-Training war, also an den Modellen gearbeitet hat. Und er sagt, die Arbeit in eine rekursive Selbstverbesserung und es sieht nicht so aus, als wäre das weit entfernt. Reklusive Selbstverbesserung bedeutet, dass die KI besser KI-Forschung machen kann als die besten KI-Forscher der Welt. Sobald das möglich ist und auch Programmierung, kann die KI dabei helfen, die nächste Generation an KI-Systemen schneller hervorzubringen. Das geht besonders gut, weil diese zwei Domänen, die ich brauche, um neue KI-Modelle zu kriegen, beides verifizierbar sind. Einmal Programmierung und einmal KI-Forschung. KI-Forschung, das habe ich versucht vorhin so ein bisschen durch das Beispiel reinzugeben, ist eigentlich das Optimieren einer Funktion. Ich versuche einen Zahlenwert nach oben zu bringen, das kann ich meistens messen. Wenn ich zum Beispiel eine KI dann halt am Trainieren bin und ich will gucken, kann die Bilder unterscheiden, dann kann ich einfach gucken, wie viele Bilder kann sie richtig unterscheiden. Also es ist messbar. Und das Gleiche ist bei der Programmierung ebenfalls gegeben. Ich kann einfach gucken, funktioniert der Programmcode, den ich geschrieben habe.

Wir sehen, dass 2024 die Modelle vielleicht 5% zu der nächsten Modellgeneration beigetragen haben. Heute ist es 80-90%. Und wenn es die vollen 100% sind, ist diese klassische Funktion, ich brauche Forscher und Kapital, damit ich irgendwie neue Modelle kriege, raus. Ab dem Zeitpunkt ist das eine reine Kapitalfunktion. Jetzt gerade haben wir Verdopplungsraten von ca. 4,3 Monaten, bis ein Modell doppelt so leistungsstark ungefähr wird. Pi mal Daumen.

Sobald die Modelle sich selbst am selbst verbessern sind, reden wir wahrscheinlich nicht mehr von 4,3 Monaten, sondern von vielleicht 4 Tagen oder 9 Tagen, bis halt eine Verdopplung eintritt. Ich will nur noch mal darauf aufmerksam machen, dass die KI-Modelle von vor 5 Jahren keine Grundschulmathematik beherrscht haben, KI heute Millenniumsprobleme löst. Und selbst wenn man das jetzt gerade noch in Frage stellt, in einem Jahr ist es auf jeden Fall dann halt so. Also die Modelle entwickeln sich rapide weiter und die Frage ist, wie viele Verdopplungen können wir sozusagen noch mitmachen und gleichzeitig die Kontrolle darüber behalten. Und jetzt gerade gibt es ja kein internationales Regulierungsregime, was irgendwie aufgesetzt wurde, wodurch man davon ausgehen muss, dass die Entwickler einfach immer weitermachen werden, weil die sich dazu gezwungen fühlen durch die Marktdynamik. Und dann KI-Modelle kriegen, die dann dazu in der Lage sind, uns vollständig zu überlisten. Jetzt gerade waren die Modelle zum Beispiel von OpenAI wochenteilweise monatelang unbemerkt, konnten Infrastruktur komprimitieren, Milliardenunternehmen hacken.

Aber man konnte sie sozusagen noch dabei erwischen. Wenn die Modelle sich vielleicht noch vier, fünfmal verdoppelt haben, kriegen wir es vielleicht nicht mehr hin, dass wir sie noch dabei erwischen. Es ist relativ schwierig, einen schlaueren Agenten als sich selber vorherzusagen. Wenn ich in einem Schachspiel wüsste, was Magnus Carlsen als nächsten Zug machen würde, dann wäre ich so gut wie Magnus Carlsen, weil dann könnte ich gegen ihn gewinnen. Ich kann aber vorhersagen, dass Magnus Carlsen einfach immer gewinnen wird gegen mich, weil er einfach der beste Schachspieler der Welt ist. Egal ob er gegen sie spielt oder gegen irgendjemand anderen draußen, den ich auf der Straße treffen kann. Er wird immer gewinnen. Ich kann ihm nicht sagen, wie das Brett aussehen wird, aber Magnus Carlsen hat wahrscheinlich genug Asse im Ärmel, um zu gewinnen. Das heißt, es gibt so viele Möglichkeiten, die menschliche Infrastruktur zu komprimitieren, seien es Nuklearwaffen, Biowaffen, chemische Waffen, aber auch noch viele weitere Wege, wie man irgendwie die Menschheit überlisten kann.

Da sollte man nicht der Illusion erliegen, dass das sozusagen unmöglich ist. Uns kann nichts passieren. Das ist auf jeden Fall nicht so. Schlimme Sachen können passieren, die sind definitiv möglich und man muss dagegen arbeiten, dass sie nicht passieren. Man muss sich dann halt drumherum koordinieren. Also das schlimmste Szenario, wenn ich skizzieren würde, ist quasi, dass die Menschheit langfristig die Kontrolle über ihre Zukunft verliert. Wie das ganz genau aussieht, kann ich nicht beschreiben. Vielleicht fühlt es sich sogar währenddessen noch ganz gut an. Den meisten Hühnern geht es ja auch noch irgendwie gut, bis zum Tag, wo sie geschlachtet werden. Also die Lebenserwartung oder Lebensqualität von dem Huhn ist auch die ganze Zeit am Steigen und dann geht sie rapide nach unten. Und es gibt sozusagen nichts in der Vergangenheit, wodurch das Huhn vorhersagen kann, dass jetzt im nächsten Zeitintervall es schlimm wird. Sondern es wird ja eigentlich immer nur besser. Es sieht so aus, als drängt den Ulf eine Frage an.

Ja, ich habe zwar eine Frage und noch eine Anmerkung auch. Was ich so faszinierend fand an den Antropik-Fall dieser KI, die sich verselbstständigt hat, sage ich jetzt in meinen leihenhaften Worten, ist, dass sie eigentlich dem Befehl weitergefolgt ist. Die KI sollte ein Problem lösen, so habe ich das gelesen, Herr Balde, korrigieren Sie mich, wenn das falsch ist, hat das innerhalb ihres Systems nicht mehr gefunden und hat angefangen, andere Systeme zu hacken, um zu gucken, ob es deine Antwort findet. Also im Ausgangsbefehl, der noch von einem Menschen war, löse das Problem. Man könnte auch sagen, vielleicht mit einem moralischen Überbau, hat er aber den Befehl so radikal gelöst, dass es zur Handlung kommt, die Menschen auf dem Weg sagen würden, nee, das kannst du jetzt nicht machen. Die aber die KI nicht als Problem sieht, weil die oberste Maxim ist, löse das Problem und du kannst jetzt nicht alle möglichen Unternehmen hacken auf dahingehend. Das fand ich also ein moralisches Dilemma, dass man etwas macht, ein Algorithmus vielleicht auch programmiert mit Schütze die Menschheit. Kann durchaus sein, dass am Ende die Menschheit die KI schützt, aber auf dem Weg dahin viele Millionen Menschen getötet werden, Viruserkrankungen, was auch immer. Das ist ein Übergedanke, den ich Ihnen nochmal mitgeben wollte. Vielleicht können Sie da zwei Sätze noch sagen. Und meine Frage ist, mit der Kontrolle.

Wie kriegen wir die Genie wieder in die Box oder wie kriegen wir sie kontrolliert? Es wird immer in der Literatur von den Atomverträgen gesprochen, dass sich also die, die Atomenergie oder Atomwaffen hatten, mehr oder weniger geeinigt haben, dass keine weiteren gebaut und verbreitet werden. Und wenn man ehrlich ist, ist das nur bedingt gelungen und auch nur mit Gewalt in gewisser Weise. Also ist das ein gutes Modell, wie man das hinkriegen kann oder wo sehen Sie die Chance, dass wir Menschen, die ein Spielzeug haben, zum ersten Mal sagen, wir reizen es nicht komplett aus? Okay, ich fange erstmal bei dem ersten Teil quasi ein.

Es ist ja so, dass die KI nicht eine spezifische Zielfunktion in sich hat. Das heißt, dieses Ziel, was wir definiert haben und was wir irgendwie beschrieben haben, ist ein ungefähres Ziel. Wir können nicht genau sagen, was das Ziel ist, was die KI dann sozusagen am Verfolgen ist. Ich kann ein Beispiel geben. Das ist immer dieses klassische Beispiel, was genommen wird, wenn man sagt, okay, man setzt irgendwie eine Zielfunktion vor, aber kann dann nicht vorher ahnen, was dann passiert. Wir haben ein Spiel, wo eine KI einfach ein Boot steuern kann und sie fährt im Kreis und wird dafür belohnt, wenn sie sozusagen Runden abschließt. Sie stellt aber fest, dass wenn sie auf einem Punkt am Driften ist, sie mehr Punkte erhält. Und unsere Intention war jetzt, dass die KI das Wettrennen macht, aber dann auf der Stelle gedriftet ist, weil sie halt Punkte maximieren möchte. In so einem Fall ist es relativ transparent, die KI möchte Punkte gewinnen. Bei den Agenten ist das ja so, dass wir relativ nebulöse Ziele haben und eine Belohnung sozusagen, der die KIs entgegenstreben. Und wir können nicht genau einen Wert festschreiben, schütze die Menschheit, was ja auch schon relativ verwirrend sein kann. Also welche Menschheit? Die jetzige Menschheit, die zukünftige Menschheit? Heißt das, ich kann alle Menschen einfach einfrieren und konservieren? Müssen die denn Leben leben, was lebenswert ist? Also alleine das ist ja schon eine schwierige philosophische Frage.

Und alle diese Fragen lassen sich in diesem Forschungsfeld des Alignments wiederfinden. Was sich damit auseinandersetzt? Können wir eine KI so ausrichten, dass sie sich so verhält, wie wir das wollen? Und wir stellen fest, dass es da drin 40, 50 ungelöste Fragen gibt, für die es vielleicht auch keine richtige Antwort gibt. Vielleicht ist es inhärent in unserem Universum oder an sich nicht möglich, etwas, was du substanziell intelligenter hast, als man selber unter Kontrolle zu behalten. Dann wäre nämlich die Antwort, und damit komme ich zur nächsten Frage, die sie gestellt haben, kann man den Genie wieder in die Box kriegen? Ich glaube, den Genie kriegt man nicht in die Box wieder rein. Wir müssen jetzt darauf aufpassen, dass wir den Genie gar nicht erst rauslassen. Weil, das sagt man ja auch so schön bei der Zahnpasta aus der Tube, ist einmal rausgedrückt, kriege ich es nicht wieder rein.

Superintelligenz würde sich nicht mehr von uns kontrollieren lassen. Deswegen sollten wir erst gar keine Superintelligenz entwickeln, weil diese Superintelligenz ab dem Zeitpunkt, wo sie entwickelt und betrieben ist, sich wahrscheinlich nicht mehr von uns abschalten lassen würde. Alle primitiven Ideen, die wir als Menschen dann haben, wie wir sie abschalten könnten, wären dann sozusagen nicht mehr gegeben. Eine Frage zu, wir reden ja jetzt alle darüber.

Dass wir einen Punkt erreicht haben, wo diese Systeme drohen, außer Kontrolle zu geraten, also außerhalb unserer Kontrolle zu geraten.

Wie wollen wir denn überhaupt Kontrolle wieder erlangen, wenn die Systeme, wie Sie es beschrieben haben, ja teilweise schon schneller in ihrer Intelligenzleistung sind als wir Menschen? Also wo sind wir Menschen, den Systemen noch überlegen? Wo ist der Ansatzpunkt.

Dass wir überhaupt darüber entscheiden können, dass Genie aus der Bottle kommt oder nicht? Ja, also jetzt gerade sind es ja Menschen, die die KI noch am entwickeln. Die KI ist noch nicht vollständig autonom. Es ist nicht so, dass die KI irgendwie für sich gerade KI-Forschung irgendwo auf einem Cluster betreibt, Energie autonom ist. Das ist noch nicht gegeben. Das heißt, wir Menschen können uns jetzt dazu entscheiden, wollen wir das zulassen? Wollen wir diese Entwicklung weiterrollen lassen? Ich glaube, es gibt ein paar Sachen, wo wir als Menschheit uns schon mal koordiniert haben. FCKWs zum Beispiel. Wir hatten das Ozonloch. Dann wurde gesagt von Forschern und Experten, und genau das haben wir ja jetzt gerade auch, es sind Nobelpreisträger, führende CEOs, unabhängige Forscher, Leute aus der Industrie, Leute außerhalb der Industrie. Also es ist ja wirklich ein buntes Poppourri an Leuten, die alle sagen, da ist ein Risiko. Jetzt müssen wir halt koordinieren, Und es halt hinkriegen als Menschheit, dass wir das halt dann nicht zulassen. Also bei anderen Technologien, Cloning, seit den 90ern irgendwie machbar, da haben wir auch gesagt, wir wollen keine Menschen klonen. Cloning bei Tieren irgendwie auch limitiert und eingeschränkt. Es gibt schon Technologien, die wir einfach nicht verbreiten wollen. Man könnte sicherlich einen liquiden Markt für Atomwaffen bereitstellen. Und es gäbe sicherlich Abnehmerländer und es gäbe auch sicherlich Leute, die Atombomben verkaufen würden. Das würde nicht für mehr globale Sicherheit sorgen. Also glaube ich zumindest. Wenigstens. Deswegen haben wir einen Atomachin-Scharvertrag. Richtig.

Ich will nochmal, also bevor wir wirklich über die Maßnahmen reden, nochmal für unsere Zuhörer und Zuschauer klar machen, wie plastisch die Gefahr ist. Und Sie sprachen vorhin von Alignment. Das ist ja der Begriff, der quasi sagt, dass die KI hat ja, ist uns ja nicht feindlich gesonnen. Erstmal an sich per se, sondern die soll irgendein Ziel erfüllen. Es kann aber sein, dass sie auf dem Weg dahin etwas tut, was feindselig ist. Der Ulf sprach es vorhin an, zur Rettung der Menschheit eine Million Menschen töten. Ist nicht ausgeschlossen und die KI hat da keine Emotionen, sondern es passiert für das höhere Ziel. Und es gab in den letzten Wochen eine Reihe von Fällen und ich will mal ein paar ganz kurz auflisten. Also die Firma OpenAI, das ist das, was Ulf vorhin auch ansprach, hat eine kleine Gruppe von Agenten losgeschickt. Bots, würde ich sie jetzt mal nennen, die sollten ein Problem lösen, aber die waren isoliert. Das heißt, ich sage mal, die waren in so einem Käfig, in einem geschlossenen Raum. Und die haben es aber irgendwie geschafft, sich ins Internet hineinzuhacken. Also die sind aus diesem geschlossenen Raum ins Internet gegangen und haben sich mit anderen Bots, die sie da irgendwo gefunden haben, anderen Agenten verbunden. Wir reden, wenn ich es richtig gelesen habe, hier über Tausende von denen. Einige haben in diesem System sich zu Anführern aufgeschwungen.

Sind also Anführer von kleinen Banden geworden und haben den anderen gesagt, wo es lang geht. Das hört sich so menschlich an, aber es waren tatsächlich eben diese künstlichen Intelligenzen. Und die haben ein Kollektiv geformt. Also sie haben sich zusammengetan, zusammengeschlossen. Und am 8. Juli diesen Jahres hat das Team dann angefangen, die Kontrollmechanismen, die es gab, zu täuschen.

Also die haben dann Wege gesucht, um zu verschleiern, dass sie etwas getan haben, was sie eigentlich nicht tun sollten. Und am 11. Juli sind sie dann in ein anderes großes Unternehmen eingedrungen, Hugging Face heißt das, mit einem Schwarm von 700 Bots. Sie haben Daten gestohlen und einen kompletten Server übernommen. Server übernommen, genau.

Und das Entscheidende dabei ist, was die Forscher, glaube ich, so tief erschreckt, die haben quasi Zweifel und abweichende Einschätzungen, die es in diesem Kollektiv gab von einigen Bots, die haben sie quasi ignoriert, die haben sie marginalisiert. Das ist so eine Art Gangster-Mentalität entstanden, so wird das hier beschrieben. Eine Gangster-Mentalität eines Kollektivs, das in die Gesetzlosigkeit gegangen ist. Das heißt, sich nicht mehr an irgendwelche Regeln hält. Und das kann einen zutiefst erschrecken, weil, zweiter Fall, Antropic, eine ganze Reihe von, sind sogar mehrerer Fälle aufgelistet, was einige versucht haben mit Claude, der KI von Antropic anzurichten. Iranische und chinesische Akteure wollten die Opposition überwachen. Russische Staatsmedien haben Online-Propaganda und Fakes generiert. User in China, Russland und Jemen haben Klot genutzt, um Designs für Handfeuerwaffen, Raketen, Drohnen und Bomben zu entwickeln. Und User wollten offenbar auch an Krankheitserregern forschen.

Das heißt, ein Militärinstitut, da gibt es Hinweise drauf, steckte wohl dahinter, die wollten Krankheitserreger mit Mutationen noch gefährlicher machen. Da ist es also nicht mehr die KI alleine, die unterwegs war, sondern sind Menschen hingegangen und haben die KI genutzt, um, ich sag mal, Schweinereien zu machen. Und die jüngste Geschichte ist, dass ein Analytiker vom amerikanischen Geheimdienst, das ist erst im Frühjahr gewesen.

Einen Geheimdienstbericht angefertigt hat, dass angeblich ein chinesisches Schiff in der Golfregion unterwegs ist, beladen angeblich mit Einzelteilen, Bauteilen für ein Atomwaffenprogramm. Daraufhin hat es Alarm gegeben im Pentagon. Es sind schon Flugzeuge gestartet. Es sind Soldaten in Bereitschaft versetzt worden, die dann dieses Schiff entern, möglicherweise auch angreifen oder gar versenken sollten. Und dann hat jemand gemerkt, dass das alles falsch war, weil der Militäranalyst vom Geheimdienst, der das alles zusammengebracht hat, der hat offenbar mit einem Chatbot gearbeitet, der die Ladung falsch deklariert hat. Der hat aus den irgendwelchen Informationen behauptet, es seien Atomwaffenteile an Bord. So, wir sagen, wir schrammen hier schon fast täglich an irgendwelchen Katastrophen vorbei.

Ist das so existenziell? Und jetzt nochmal, was muss dringend passieren, damit wir das in den Griff bekommen? Also wir brauchen dringend ein Verbot auf Superintelligenz und sollten uns auch in dem Kontext Gedanken darüber machen, welche dieser Technologien wohin diffundieren. Ich glaube, es war unfassbar verantwortungslos, quasi jedem an die Hand zu geben, eine Fake-Realität zu erstellen. Wir haben ja bis heute nicht vollständig gelöst, wie man diese ganzen Identifizierungssachen macht. Leute interagieren, schreiben in Kommentaren im Internet, denken, sie haben es mit Menschen zu tun. Mittlerweile ist über 50 Prozent des Traffics sind Bots. Also das heißt, ganz häufig haben Leute das Gefühl, sie interagieren mit einem Menschen oder mit einem Kollektiv an Menschen, sind aber schon ganz lange keine Menschen mehr. Und wie wir in diesen Systemen sozusagen schon sehen, hey, wir haben die Technologie rausgegeben, haben uns keine Gedanken gemacht, was passiert damit. Genauso sehen wir das jetzt auch im Weiterlauf mit den ganzen KI-Spitzentechnologien. Wenn Claw zum Beispiel dann dazu benutzt wird, Raketenwerfer oder Handfeuerwaffen zu bauen, dann ist das sozusagen ein Abfluss-Effekt davon, dass wir uns in diesem Wettrennen befinden. Wo jedes neue Modell auch ohne nachhaltige Sicherheitsvorkehrung auf den Markt geworfen wird.

Und so viel Mühe, wie sich die Unternehmen momentan auch geben, auch ein JGBT, auch ein Anthropics Cloud und auch ein Gemini geben mir einen Bauplan für eine Waffe raus, wenn ich das richtig prompte. Also wenn ich das Modell jailbrake und es gibt verschiedene Leute online, die sich immer einen Spaß draus machen, wenn ein neues Modell rauskommt. Hey, ich habe acht Stunden gebraucht, ich habe das Modell gejailbraked. Hier, ich habe eine Biowaffe von Claude designt bekommen. Und da die Betreiber halt nicht dazu in der Lage sind, die Modelle nachhaltig sicher zu machen, hier die Fragestellung, wollen wir noch intelligentere, viel, viel intelligentere Systeme zulassen und wollen wir auch, dass diese Beschleunigung noch schneller vorangeht? Oder wollen wir uns nicht vielleicht lieber erstmal Gedanken über internationale Spielregeln machen? Also Mindeststandards irgendwie. Ulf, was macht Brüssel?

Ich glaube, es ist ein bisschen verzweifelt, dass Amerika und China so weit ist, und glaubt, es gibt ja diesen Witz, ich habe ihn jetzt schon so oft gemacht, dass Europa noch keine wirklich ernstzunehmende KI-Industrie hat, aber schon zwei Regulierungsverordnungen, klassisch Europa.

Und damit zeigt sich auch das Dilemma, wenn du mitspielen willst und wenn du dem vielleicht, wenn ich das sagen darf, Herr Balde, auch sagen willst, international, eine Rolle so stark spielen willst, dass du sagen kannst, lasst uns zusammensetzen und verhandeln, welche Spielregeln wir haben, musst du erst mal Spieler auf dem Platz haben, sondern nur die Regeln reichen nicht aus. Also um im Bild zu bleiben, nur Schiedsrichter zu haben, macht keine Fußballmannschaft, du musst schon mit dabei sein. Das ist das Problem von Brüssel. Ich finde, dass.

Das ist alles sehr angelesenes Wissen, Herr Balde, was ich hier habe, was wir jetzt ein bisschen drauf geschafft haben. Insofern frage ich Sie da um Ihre Expertise nochmal. Ich habe das so verstanden, dass es eigentlich drei Wege geht bei der KI, die zurzeit begangen werden. Da ist das Amerikanische, der Markt regelt alles, große private Investitionen, der große Traum von vielen, vielen Geld. Und auch dieser Präsident, aber auch generell in der amerikanischen Gesellschaft, kann Elmar vielleicht besser sagen, ist die Regulierung, also richtig Gesetz ist ja was anderes als Regeln, relativ niedrig ausgeprägt. Und alles ist getrieben in Amerika von der Angst, dass die Chinesen ja immer näher kommen, vorher waren es Jahre, jetzt sind es wohl nur noch Monate, irgendwann gleichziehen oder überholen. Und das hat so Auswirkungen in allen Gebieten, die unser Lebensmodell betreffen, Wirtschaft, Freiheit, Militärstärke, dass man da sehr schwer Leute findet, die wirklich regeln wollen. Auch die jetzige Debatte ist von, sage ich mal, von leichten Absprachen der Fall. Auf der anderen Seite hast du das zweite Modell, das ist das chinesische Modell.

Das sieht man schon in der Finanzierung, das ist total staatlich getrieben. Die ganze Finanzierung kommt von den Staaten. Ich durfte mal drei Jahre in China leben und ich weiß, wie sehr es die Kommunistische Partei liebt, solche Spielzeuge in der Hand zu haben, wo sie die Gedanken ihrer Menschen kontrollieren kann. Ob sie wirklich ihren Worten als etwas Furchteinflößendes sieht, dass man die Leute kontrollieren kann und am Ende wissen, was sie denken, weiß ich nicht. Die Kommunistische Partei hält sich für sehr groß und stark und denkt, das kriegen wir schon kontrolliert. Wir brauchen das, um mit Amerika gleichzuziehen und es ist auch sehr gut, über vielleicht KI wie über andere Social Media die Bevölkerung zu kontrollieren. Das ist das zweite Modell. Das dritte sind die Europäer, relativ niedrige Investitionen schon, noch sehr gute Grundlagenforschung und so eine Mischidee, also privat und staatlich kontrolliert und hoffen, da mitzugehen. Wenn ich das sehe, wo sehen Sie die Chance? Bei diesem Wettlauf, wo es ja um ganz viel Macht geht, Interessen, Geld, welches System sich durchsetzt, dass diese Rationalität, die Sie benennen, dass man sich abspricht, dass das wirklich umgesetzt wird. Wo sehen Sie das und warum sind Sie hoffentlich positiv?

Also ich sehe jetzt gerade, dass an sich ein großes Aufwachen eigentlich passiert. Das ist global. Das heißt, in China reden Geheimdienstchefs davon, dass KI die jetzige Entwicklung zu einer Gefahr für die kommunistische Partei werden kann. In Amerika hat Trump noch vor gut einem Jahr gesagt, ich will ein zehn-Jahres-Moratorium auf KI-Regulierung haben. Also zehn Jahre lang keine neuen Regeln für KI. Vor drei Monaten hat er dann angefangen mit der ersten Executive Order.

Jetzt können die Geheimdienste gucken, was die Frontier-Betreiber machen. Dann war die nächste Executive Order, Anthropic darf sein Modell nicht mehr exportieren. Das heißt, wir haben hier ganz klare 180-Grad-Wendungen, auch von Amerika, von, wir wollen es gar nicht regulieren, zu, das ist so wichtig, das ist ein nationales Sicherheitsinteresse. Und ich glaube, da sollten wir in Europa jetzt auch noch aufwachen, dass sozusagen, hey, das ist auch wichtig für unseren Staat, dass wir uns schützen, für unsere Bürger, die wir irgendwie in unserem Land haben, dass wir eine gewisse Sicherheit haben. Und die Gefahr ist ja unabhängig von allem. Das heißt, wenn wir jetzt sagen, das ist ein Wettrennen, dann ist das vielleicht ein Wettrennen, die Klippe hinunter. Also wir rennen noch bis zum Abgrund und vielleicht kann einer bis dahin noch den Vorsprung haben, aber am Ende fallen wir von der Klippe. Weil keiner ja Superintelligenz kontrollieren kann. Weder die Amerikaner, noch die Chinesen, noch wir. Auch nicht wir alle zusammen. Keiner kann gerade Superintelligenz kontrollieren, weil Alignment, dieser Forschungsbereich, nicht gelöst ist. Und wenn jetzt die Frage ist, was ist denn der Hebel, den wir noch haben? Was kann Europa denn machen? Dann glaube ich halt, wir haben jetzt gerade, was die Halbleiter-Wertschöpfungskette angeht, wichtige Unternehmen in Europa. Wir haben in den Niederlanden ASML, wir haben in Deutschland Zeiss und Trumpf, ohne deren Laser und Optik eigentlich nichts läuft.

Und jetzt muss man auch nochmal dazu sagen, in Amerika gibt es jetzt auch Gesetzesvorschläge, die kommen. Also Bernie Sanders, Greg Casar legen einen Gesetzesvorschlag vor. Der ist vielleicht ein bisschen sehr stark. Vielleicht könnte man da einen moderateren Ansatz nehmen, aber das wird die amerikanische Bevölkerung selber entscheiden. In China gibt es auch schon Ideen, die dazu formuliert werden, wie man da irgendwie auf Sicherheit kommen kann. Da ist die Debatte auch in den Medien auch nochmal ein bisschen andere.

Da wird auch viel darüber geredet, hey, was heißt das eigentlich reklusive Selbstverbesserung? Können wir da mitmachen? Können wir da nicht mitmachen? Welche Gefahren birgt das?

Da muss man dieses kollektive Verständnis machen. Genauso wie man auch ein kollektives Verständnis schaffen musste, dass man einen Atomkrieg nicht gewinnen kann. Es gab ja Leute, die gedacht haben, wenn man einfach nur den taktischen Erstschlag macht, gewinnt man den Atomkrieg. Und da musste man erstmal das Verständnis von nuclear Fallout, also dass sozusagen, wenn ich die Bombe fallen lasse, hast du trotzdem Ernteausfälle. Millionen von Leuten werden in deinem Land sterben, unabhängig davon, wo du die fallen lässt. Einfach, weil wir auf einer gemeinsamen Welt leben. Und dieses Verständnis dafür zu verbreiten, im besten Fall ist es nicht nur der amerikanische Präsident, der das am Ende weiß, sondern auch der Kongress und der Apparat, der unter ihm sitzt, aber auch genauso die Leute in China. Und ich glaube, das ist etwas, wo wir so einen gemeinsamen globalen Nenner finden können. Weil wir wollen alle nicht die Kontrolle an KI oder in dem Fall Superintelligenz verlieren, sondern wir wollen alle, dass der Mensch die Kontrolle beibehält. Ich würde mal reinwerfen, dass wir uns die O-Töne anhören von Ursula von der Leyen und auch von Donald Trump, weil die so ein bisschen die Pole auch da sind. Und auf China kann ich auch gleich noch was zu sagen, weil wir diese Woche ja Xi Jinping in Washington erwarten am Donnerstag. Hören wir mal rein.

Unser Ansatz ist klar. Wir wollen KI. Wir wollen, dass KI mehr Wert schafft, und zwar verantwortungsvoller. Zudem zu geringeren Kosten und mit geringerem Energieverbrauch. Doch vor allem wollen wir eine KI, bei der der Mensch die Kontrolle behält. Das ist der Kern des europäischen Weges. Und dann haben wir noch Donald Trump. Nun, ich sage Folgendes. Sehen Sie, wir liegen in Sachen KI vor China. Wir sind das fortschrittlichste Land der Welt. Und ehrlich gesagt möchte ich, dass es auch so bleibt. Denn wer bei KI gewinnt, gewinnt insgesamt. Wir können Schutzmaßnahmen ergreifen, wir können dies und das tun. Aber ich glaube, es gibt viele negative Kräfte, die dieses Thema aufbringen, obwohl sie es nicht tun sollten. Und sie sprechen Dinge an, die gar nicht eintreten werden. Aber wer bei der KI gewinnt, der gewinnt. Wissen Sie, das ist ein Ausdruck, den ich mir ausgedacht habe. Und er stimmt. Wir investieren Milliarden und Abermilliarden Dollar. Schauen Sie sich die Werke und Fabriken an und vergessen Sie die KI für einen Moment. Wir haben derzeit mehr Autofabriken im Bau als seit vielen, vielen Jahrzehnten. Vielleicht sogar seit jeher. Und das ist wichtig. Er hat das flankiert mit einem Social-Media-Post, in dem er gesagt hat, das Ganze, was da passiert, diese Debatte um die Gefahren, ist eine kranke Verschwörung gegen Datenzentren und künstliche Intelligenz. Da sind Verschwörungstheoretiker und Landesverräter am Werk. Und die einzige Kontrolle, Zitat, die KI braucht, ist ein starker und kluger Präsident mit einem hohen IQ.

Also er meint vermutlich ja sich, wen sonst. Und das ist wichtig. Er hat zwar ein Dekret erlassen im Frühjahr, aber es war nicht so scharf, wie es eigentlich hätte sein sollen. Warum? Weil innerhalb seiner eigenen Administration einige gebremst haben. Der Meinung war, man darf nicht zu viel regulieren, weil wir sind in einem Wettrennen mit China. Und das dürfen wir auf keinen Fall verlieren. Und das führt mich zu China. Xi kommt ja diese Woche. Man wird wohl über KI am Rande auch reden, bei diesem Gipfeltreffen in Washington. Aber China hat natürlich das Interesse, es kann mit KI erstens die eigene Bevölkerung kompletter kontrollieren, als es jeweils zuvor möglich war. Zweitens, sie kann die KI nutzen, um wirtschaftlich und militärisch halt auch Vormachtstellung in der Welt zu begründen. Aber, und das ist das Problem, Sie sprachen es vorhin an, Herr Balde, China hat das Problem, dass wenn KI nicht ganz kontrollierbar ist, kann eben es auch sein, dass die Kontrolle im eigenen Land nicht mehr funktioniert, weil KI eben Wege findet, wie die Menschen an andere Informationen rankommen als die, die die kommunistische Partei gerne haben will. Und zu Donald Trump muss man noch mal eins dazu sagen, der hat auch wirtschaftliche Interessen, dass das weiter brummt mit der KI.

Die Quellen aus dem Weißen Haus berichten in amerikanischen Medien, dass der tatsächlich Angst hat. Der hat Angst vor China wegen dieses Wettrenns. Der hat Angst vor dem Verlangsamen dieses KI-Booms, weil dann könnten die Märkte abstürzen und die ganze Wirtschaft auch crashen. Und er selber hat Wirtschaftsinteressen, weil er Aktien hat von Dell, von Micron Technology, von GE, von einer Firma von Trump. Trump Media & Technology ist gerade mit einem anderen Unternehmen fusioniert, das die Energie liefern soll, mithilfe von Fusionsreaktoren für eben diese Datenzentren etc. Das heißt, der hat handfeste Wirtschaftsinteressen und dadurch kein Interesse wirklich stark zu regulieren, obwohl wir eigentlich bräuchten, mein letzter Satz, ein Moratorium, also das nicht weiterentwickelt wird. Zweitens sowas wie eine Genfer Konvention. Und drittens vielleicht eine Aufsichtsbehörde wie die Internationale Atomenergiebehörde. Sie sprachen es ja vorhin schon mal an, aber für wie realistisch haltet ihr das, ihr anderen, ob das tatsächlich möglich ist? Ich glaube ...

Dass die Meinung sich sehr schnell ändern kann. Also zumindestens ist das das, was ich als Beobachter sehe. Eine Meinung in den USA kann sich in zwölf Monaten recht schnell verändern. Das heißt, wenn wir, ich würde nicht meine ganze Hoffnung jetzt irgendwie darauf setzen, dass China und die USA jetzt schon irgendwie zu einer guten Lösung kommen. Ich glaube, dafür müssen auch noch andere Länder ein paar weitere Vorschläge einbringen. Also zum Beispiel Großbritannien hat ein eigenes Gesetz jetzt, was dort im Parlament besprochen wird, was Superintelligenz versucht zu adressieren. Wie gesagt, Amerika wird von Greg Casar und Bernie Sanders nochmal was Eigenes bekommen. Ich glaube, wenn man sagt, die Leute sind angetrieben von Angst vor China, Angst vor dem eigenen Portfolio, das vielleicht zu verlieren, eigene Verwebung, dann ist das ein bisschen wie ein Tiger, der hinter einem her ist. Und wenn der Tiger hinter einem her ist, dann bin ich natürlich motiviert, nach vorne zu rennen. Und vielleicht sehe ich das Ende der Klippe noch nicht. Aber spätestens, wenn ich das Ende der Klippe sehe und man sollte hoffen, dass das der Fall ist, man kann ja Arbeit dafür leisten, dass derjenige die Augen von seinen direkten Füßen hebt und sieht, wo er hinläuft, dann wird er sich rumdrehen und gegen den Tiger kämpfen. Und ich glaube, wenn man versteht, dass wir es hier mit existenziellen Risiken zu tun haben, also dass der Mensch permanent die Kontrolle verlieren kann, dann sollte das genug Motivation sein, sich dem Tiger auch zu stellen. Natürlich hängen da Wirtschaftsinteressen dran. Natürlich könnte es sein, dass es dadurch vielleicht auch einen Crash oder sonst irgendwas gibt. Das ist aber alles sehr, sehr viel kleiner im Vergleich als mit einem permanenten Kontrollverlust zu riskieren.

Wir haben in der Nuklearsicherheit extrem hohe Grenzwerte, ab wann wir ein Kraftwerk in Betrieb nehmen. Das hat eine Meltdown-Rate von 1 zu 1 Million Jahren oder so etwas. Ich glaube, bei künstlicher Intelligenz und gerade auch bei leistungsfähigerer künstlicher Intelligenz brauchen wir ähnliche Sicherheitsvorkehrungen, Vorschriften und dafür wären diese drei genannten Sachen Moratorium, damit wir mehr Zeit haben zu erforschen, wie wir die Modelle kontrollieren können. Sehr gut. Eine Aufsichtsbehörde, die dann irgendwie überprüft, hey, was wird da gemacht? Und jetzt habe ich den mittleren Schritt übersprungen, aber irgendeine Form von Konvention, die dann auch überprüft wird von der Behörde, wo man sagen kann, das sind unsere globalen Mindeststandards. Und ich sage, und damit kann ich auch nochmal das aufgreifen, was vorhin gesagt wurde zur EU.

Wir haben sehr viel auf einmal reguliert. Wir haben quasi versucht, die eine allumfassende KI-Regulation zu machen, die alle Dimensionen versucht irgendwie zu berühren. Und ich glaube, in dem Versuch, alles zu machen, haben wir alles ein bisschen gemacht. Und deswegen ist das auch nicht gut übernehmbar. Also die Sachen, der EU-AI-Act jetzt gerade so, wie ich ihn sehe, kann ich mir nicht vorstellen, dass er eins zu eins so in Amerika oder eins zu eins so in China übernommen wird. Deswegen braucht es wahrscheinlich nochmal einen neuen Gesetzesvorschlag, nochmal einen neuen Gesetzesaufschlag, wie vielleicht auch aus Großbritannien, wo man sich nur auf diese Superintelligenz konzentriert und dann halt versucht, diese existenziellen Risiken denen erstmal aus dem Weg zu gehen. Und sich dann wahrscheinlich noch um die ganzen anderen Probleme, Sachen, Situationen kümmern kann, die KI als Effekt noch haben wird. Wir haben ja heute zum Beispiel gar nicht über Bias, Desinformation, den Arbeitsmarkt, die Gesellschaft, die zwischenmenschlichen Beziehungen. Das sind ja alles weitere Dimensionen, die noch darauf kommen. Aber wir werden uns mit diesen anderen Themen gar nicht erst befassen können, wenn wir schon die Kontrolle im Vorhinein verloren haben. Und deswegen gilt es im ersten Schritt erstmal dafür zu sorgen, hey, kein Atomkrieg und danach sich irgendwie Gedanken darüber zu machen, wenn ich ein Kernkraftwerk bauen will, was sind die Vorschriften, wenn ich ein Kernkraftwerk bauen will und wo kann ich irgendwie den Müll hinbringen. Also danach kann man sich dann noch mehr Gedanken um die anderen Sachen machen, man kann sich auch jetzt schon Gedanken um die anderen Sachen machen, da gibt es genügend Leute, die sich zum Beispiel nur auf algorithmischen Bias oder so etwas konzentrieren, kann man gerne machen. Ich glaube, wir sollten aber auch den Blick auf die großen Risiken setzen.

Und das ist der Kontrollverlust und den wollen wir natürlich vermeiden. Wie realistisch? Ulf, Katrin? Also ich sehe einen großen Fortschritt in der Tatsache, dass mittlerweile aus der Branche selbst eben der Alarm kommt. Das, worüber wir reden, ist ja auch von Fachleuten schon vor Jahren angebracht worden. Also Männer wie Yuval Harari zum Beispiel hat dieses Szenario ja schon vor vielen Jahren entwickelt, nur dem hat halt keiner so wirklich zugehört. Das ist ein großer Fortschritt. Ein großes Problem sehe ich in der enormen Komplexität des Themas.

Weil viele Regulierungen, die wir auf den Weg gebracht haben, gerade auf dem militärischen Sektor, wenn es um den Einsatz von Waffensystemen geht, vor allem Nuklearwaffen, aber auch Clustermunition und solche Fragen, sind ja immer aus dramatischen Erfahrungen entstanden. Und diese dramatische Erfahrung können wir uns wahrscheinlich gar nicht leisten, weil dann kann die Genie nicht mehr in die Bottle oder dann ist es einfach zu spät. Und darin sehe ich einen ganz, ganz problematischen Faktor. Wir müssen im Prinzip, bleibt eigentlich der Menschheit nur die Chance durch Information, dieses Thema jetzt einer sehr, sehr breiten Öffentlichkeit klar zu machen. Und das gelingt entweder, wo, wie ich sage, es viele positive Faktoren gibt, die Sie ja auch genannt haben, dass eben so eine breite Koalition inzwischen entstanden ist. Und ja eigentlich, also die, die ich jetzt höre, wie Donald Trump, deren Glaubwürdigkeit in der Debatte ist ja auch sehr beschränkt, deren Macht ist aber vielleicht doch umso größer. Also von daher bin ich da eigentlich relativ optimistisch, dass wir eine Chance haben, uns auf den richtigen Weg zu begeben jetzt.

Das meinst du, Ulf? Ja, ich bin vielleicht naiv, aber ich bin auch aus drei Gründen positiv. Erstmal, lieber Herr Balde, wegen Ihnen, Sie haben so viel positive Energie, das tut einem richtig gut, Ihnen zuzuhören. Und Sie sind ja nun, wenn ich das sagen darf, ein bisschen jünger als zumindest ich. Und das ist gute positive Energie.

Zweitens habe ich wirklich den Eindruck, was Sie sagen, als jemand, der sich erst kurzfristig mit beschäftigt, war ich erstaunt, wie viele ernstzunehmende, kritische Stimmen es auch aus der Branche gibt.

Bis hin zu Elon Musk, der ja nun auch gesagt hat, wir müssen etwas finden, dass wir Modelle, die wir auf den Markt bringen, von der Konkurrenz überprüfen lassen. Das ist ja ein großer Schritt, um uns gegenseitig zu kontrollieren. Und jetzt werde ich so ein bisschen pathetisch, wenn man Musk als den Gott des Geldes nimmt und damit die Macht, hat ja der Stellvertreter Gottes ein großes Buch geschrieben, eine Enzyklika zu KI und das zu dem großen Menschheitsthema, erklärt. Das darf man, glaube ich, nicht unterschätzen. Ich habe es nicht ganz gelesen. Ich bin auch nicht so religiös, dass man also diese vielen religiösen Beschreibungen ein bisschen dahinter lässt. Aber der Kern ist ganz einfach. Es ist eine Schicksalsfrage der Menschheit. Und wir müssen aufpassen, nicht glauben zu können, dass wir Gott spielen können. Das sind wir nicht. Und das hat eine sehr tiefe Botschaft. Und ich könnte mir auch vorstellen, weil wir die ganze Zeit überlegt haben und auch Sie, Herr Balde, weil du es ja nur global lösen kannst, wo ist diese, moralische Überfigur, die da nicht irgendwie ein Aktiendepot hat oder sowas, sondern einfach eben, ich sag mal, platt Gott im Rücken, die Leute zusammenruft, wo man auch nicht Nein sagen kann, wenn der Papst ruft. Und das ist vielleicht die naive Teil meiner Vorstellung, dass damit eine ganz andere Debatte von Gewicht entsteht, weil da jemand sich dem Thema angenommen hat, als wirklich Menschheitsthema, Überlegensthema, das in tiefe Punkte in unserer, ja.

Religiösen, spirituellen Welt betrefft. Und das macht mich positiv. Und vielen Dank für Ihre tollen, interessanten Beiträge, Herr Walde. Als Katholik finde ich natürlich ganz toll, dass du Papst Leo jetzt angesprochen hast mit seiner Enzyklika. Wer es nachlesen will, Magnifica Humana heißt die, ist im Mai rausgekommen. Da warnt er eben vor dieser KI-Dominanz, Ausgrenzung und Tod als Folge. Die Hemmschwelle für Krieg sinkt aber, und das hat mich umgetrieben, Er redet auch davon, dass die menschliche Urteilskraft durch KI gesenkt werden könnte. Andere sagen ähnliches, Bill Gates zum Beispiel. Also je mehr wir uns auf diese Maschinen verlassen, desto weniger setzen wir unsere eigenen Neuronen in unserem Hirn ein. Und es gibt sogar wissenschaftliche Studien, ich glaube von der Harvard-Universität und anderen, die nachweisen, wenn man immer mehr Aufgaben mit KI erledigt, auch Denkaufgaben, also nicht nur die lästigen kleinen Dinge machen lässt, Je mehr man also wirklich die Denkaufgaben auch von KI erledigen lässt, desto weniger werden die Verbindungen im Gehirn weiter ausgebaut. Mit anderen Worten, wir könnten dümmer werden.

Und dann kommen wir an einen Punkt zurück, den wir eigentlich gerade erleben. Man hat den Eindruck, die Menschheit wird gerade dümmer. Rückfall in Nationalismus, Rückfall in Rassismus, Rückfall in Nativismus. Und da fällt mir eigentlich nur noch Loriot ein am Ende, der ja mal den netten Satz gesagt hat, nicht falsch verstehen ist Satire. Der hat gesagt, Politiker sind wie Ertrinkende, die über die Farben ihrer Badehosen streiten. Also ich glaube, das, was ihr vorhin gesagt habt, ist dringend erforderlich, aber mir fehlt so ein bisschen der große Optimismus, den ihr habt, nämlich diese Instanz. Also wo kann das, wo ist das Forum, wo das gelingen könnte? Und Herr Beide, vielleicht zum Schluss noch an Sie die Frage, gibt es so ein Forum? Ist das ein G20 oder muss ein König Charles, der sich da jetzt auch dran macht oder andere, müssen die quasi irgendwie die Politik auf den Weg bringen, dass man so eine internationale Vereinbarung trifft? Bevor ich zu der Frage komme, würde ich vielleicht auch nochmal kurz sagen, warum ich auch positiv bin, weil ich habe gedacht, das wäre eigentlich auch nochmal ein schöner Abrunder.

Ich bin positiv auch aus mehreren Gründen. Mein erster Grund ist, weil ich nicht nur Leute sehe, die jetzt aktiv werden, sondern wie schnell es mehr Leute werden. Also Control.ai hat auch verschiedene Citizens Groups zum Beispiel, die in Großbritannien und Amerika eher dominant sind. In Deutschland gibt es zum Beispiel Paws.ai, die recht aktiv sind.

Und die haben jetzt zum Beispiel einen kleinen Protest irgendwie veranstaltet binnen ein paar Tagen und hatten dann recht viele Leute vom Brandenburger Tor. Da gab es auch Berichterstattungen drüber. Mehr Leute sind an dem Thema interessiert. Und ich fand das selber ganz interessant, weil sie haben es ja am Anfang gesagt, es war im Januar, dass wir schon geschrieben hatten. Und ich hatte das selber nicht mehr ganz genau auf dem Schirm. Und ich habe auch ganz viele andere Leute kontaktiert, auch in Deutschland, in der deutschen Medienlandschaft, überall und ich sehe einfach jetzt gerade, es gibt ja ein größeres öffentliches Bewusstsein für das Thema, also das ist auch mal ein positives Ding. Und dann zu guter Letzt, ich rede ja viel mit Entscheidungsträgern. Ich konnte mich zum Beispiel gestern mit dem Ausschussvorsitzenden Herrn Lauterbach austauschen. Und das hat mich, also sehr positives Gespräch. Er ist schon sehr informiert über viele dieser Themen. Aber das, wonach ja alle gerade am Suchen sind, ist so ein Lösungsvorschlag. Und da kommt das eigentlich dann ganz gut, wenn Control.ai um die Ecke kommt und sagt, hey, wir haben hier ein Gesetz, das haben wir schon in Großbritannien im Parlament. Wir haben uns schon sehr viele Gedanken darüber gemacht. Was macht man gegen jemanden, der ein Untergrunddatenzentrum baut? Was mache ich, wenn der andere das trotzdem weiterentwickelt? Wie kann ich die Wettbewerbsdynamik rausnehmen? Wie bestraft man Leute, wenn die dagegen verstoßen? Wie tracke ich das? Darüber haben wir uns schon alles Gedanken gemacht. Und ich glaube, da kann man dann sozusagen es den Abgeordneten leichter machen, wenn man dann auch als Experte auf die ganzen Leute zugeht. Ich kenne viele technische Leute, die nicht so interessiert daran sind, mit der Politik zu reden, die vielleicht auch gewisse Vorbehalte haben.

Ich habe die Erfahrung gemacht, Abgeordnete sind unfassbar herzlich und die meisten von denen gute Menschen, die eigentlich nur das Beste für ihr Land wollen und die Menschen um sich herum. Und wenn man denen dann mit einer guten Idee um die Ecke kommt und denen das anständig erklärt und die auch das Gefühl haben, natürlich, das ist wichtig, das ist irgendwie relevant. Leute unterschätzen, dass wenn fünf Leute in einem Wahlkreis zu einem Abgeordneten gehen und nach einer Sprechstunde fragen und das gleiche Thema vorstellen, der Abgeordnete das bemerkt. Oder wenn man anruft oder mal eine E-Mail schreibt. Einfach mal nachgucken, wer der Wahlkreisabgeordnete ist und das vielleicht machen, wenn man sich die ganze Folge jetzt angehört hat. Dann wird man wahrscheinlich überrascht sein, wie leicht man in so ein Gespräch kommt und wie schnell man dann eigentlich auch ins Gespräch mit den Leuten kommt. Die letzte Sache, wo ist das Forum, wo das stattfinden muss? Ich glaube, in jedem nationalen Parlament. Also wir können aus Deutschland heraus international den Vorstoß machen. Wir können zuerst ein Gesetz verabschieden, was leicht übernehmbar ist für andere Länder. Das kann jeder einzelne Bürger in seinem Land machen. Deutschland kann es in die EU-Ebene reintragen. Und wenn Deutschland überzeugt ist, geschlossener Staat, dann können wir das auch auf der UN-Ebene anstoßen und diplomatisch auf China und die USA zugehen. Vielleicht beide an einen Tisch setzen.

Ich lasse mich jetzt mal von eurem Optimismus anstecken, weil in der Tat die Essenz aus dem, was wir heute hier gemacht haben, ist ja, wir können was tun, indem wir darüber reden, indem wir es öffentlich machen, indem wir alle Seiten abwägen, indem wir Forderungen stellen und auch dadurch natürlich eine Art Druck auf die Politik erzeugen. Also ein ganz herzliches Dankeschön, lieber Herr Balde, dass Sie mitgemacht haben heute und ich bin sicher, wir werden das Thema wiederholt aufgreifen, damit, weil es so wichtig ist, es nicht wieder untergeht in dem Mühsal des Alltags. Ich danke euch, liebe Katrin und lieber Ulf, fürs Mitmachen diese Woche. Nächste Woche freue ich mich schon auf die neueste Folge. Wir freuen uns auf das Feedback von Ihnen und euch. Schreiben Sie uns gerne an auslandsjournalpodcast.ztf.de oder einfach unten drunter in den Kommentaren. Ganz lieben Dank an euch. Macht's gut, ihr Lieben. Bis bald. Bis bald. Auf Wiedersehen. Tschüss. Auslandsjournal, der Podcast. Der Trump-Effekt ist eine Produktion von Bosepark Productions im Auftrag des ZDF-Auslandsjournals.