WEBVTT 00:00:23.022 --> 00:00:26.377 Schönen guten Morgen, Richard. Guten Morgen, Markus. Richard, 00:00:26.377 --> 00:00:32.507 ich würde gerne ein bisschen ungewöhnlicher einsteigen und dir zwei Zitate vorlesen 00:00:32.507 --> 00:00:35.524 und an den Beginn sozusagen unseres Gesprächs stellen. 00:00:36.075 --> 00:00:40.407 Das erste geht so. Sicherlich lassen sich Kontrollmaßnahmen entwickeln, 00:00:40.407 --> 00:00:44.587 die die Angst vor einer plötzlichen vollständigen Vernichtung beseitigen können, 00:00:44.587 --> 00:00:47.970 auf die wir derzeit zusteuern. Zweiter Satz. 00:00:57.838 --> 00:01:01.847 Interessant ist an diesen beiden Sätzen, der eine Satz stammt von dem Physiker 00:01:01.847 --> 00:01:07.590 und Mathematiker John von Neumann 1955 in einem berühmten Artikel mit dem Titel 00:01:07.950 --> 00:01:09.487 Can We Survive Technology? 00:01:11.247 --> 00:01:15.862 Das erste Mal aufgeschrieben und bezieht sich auf das Aufkommen von Kernwaffen. 00:01:16.576 --> 00:01:22.292 Der zweite Satz stammt von Sam Altman, der Mann, der gerade in aller Munde ist, der CEO von OpenAI. 00:01:23.047 --> 00:01:28.260 Und der hat das so gesagt in einer Anhörung vor dem US-Senat am 16. Mai 2023. 00:01:28.422 --> 00:01:33.217 Der eine Satz 1955, der andere von 2023. 00:01:34.372 --> 00:01:39.217 Apokalypse ist das verbindende Element, Richard. Warum sind wir Menschen so 00:01:39.217 --> 00:01:41.733 empfänglich für apokalyptische Szenarien? 00:01:42.534 --> 00:01:47.428 Grundsätzlich ist es ja nicht ganz verkehrt, sich vor technologischen Entwicklungen zu fürchten. 00:01:48.136 --> 00:01:52.687 Aber diese Lust an der Apokalypse, da fragst du den Falschen, weil ich habe die nicht. 00:01:53.867 --> 00:01:58.057 Also es gibt ja auch Leute, die gucken gerne Horrorfilme oder Katastrophenfilme, 00:01:58.057 --> 00:02:01.517 Weltuntergangsszenarien und so weiter. Du weißt, dass es ein neues Wort gibt 00:02:01.517 --> 00:02:03.119 für solche Typen. Ich dachte, du bist einer. 00:02:03.415 --> 00:02:06.381 Du weißt ja, wir werden da gelegentlich, beschimpfe ich dich hier als Boomer. 00:02:06.625 --> 00:02:09.678 Ja. Es gibt ein neuschönes Wort, das heißt Duma. 00:02:09.986 --> 00:02:12.027 Ah, Duma. Ja, von Doomsday. 00:02:12.407 --> 00:02:16.327 Ja, Doomsday, der Weltuntergang. Ja, okay, Weltuntergangspropheten und Apostel 00:02:16.327 --> 00:02:18.438 und so, da gehöre ich irgendwie nicht zu. 00:02:19.547 --> 00:02:23.529 Ich denke immer, wenn du in einem einsamen Haus im Wald lebst, 00:02:24.214 --> 00:02:27.244 dann ist es sehr sinnvoll, sich vor Einbrechern zu fürchten, 00:02:27.244 --> 00:02:28.742 aber nicht vor Geschwänstern. 00:02:29.758 --> 00:02:33.854 Und deswegen ist so meine Angst vor gespenstischen Szenarien, 00:02:33.854 --> 00:02:38.175 die ist eher gering ausgeprägt, wogegen die für Einbrecher hellbar ist. 00:02:38.552 --> 00:02:43.714 Nochmal, warum sind wir gerade so sehr mit apokalyptischen Dingen beschäftigt? 00:02:43.714 --> 00:02:47.644 Also wir hatten das ja rund um den Jahreswechsel 1999, 2000, 00:02:47.644 --> 00:02:51.584 wenn du dich erinnerst, pünktlich zu Silvester, sollte damals die Welt untergehen, 00:02:52.414 --> 00:02:53.918 ist glücklicherweise ausgefallen. 00:02:54.556 --> 00:02:56.994 Jetzt haben wir es aber tatsächlich mit einem Szenario zu tun, 00:02:56.994 --> 00:02:59.214 von dem ich sagen würde, wir müssen uns schon Gedanken machen. 00:03:00.034 --> 00:03:05.324 Diese KI-Apokalypse, die gerade umgeht, die halbe Welt, die sich fragt, 00:03:05.324 --> 00:03:10.604 ist künstliche Intelligenz jetzt irgendwann etwas, was alle gefährlichen, 00:03:10.604 --> 00:03:12.035 tödlichen Krankheiten heilt? 00:03:12.389 --> 00:03:15.434 Oder ist es das, was uns endgültig ins Jenseits befördern wird? 00:03:15.434 --> 00:03:18.814 Ich habe das Gefühl, zwischen diesen beiden Pendeln geht es gerade hin und her. 00:03:18.930 --> 00:03:20.814 Genau, irgendwo dazwischen tun wir es nicht mehr. 00:03:21.354 --> 00:03:24.584 Wir gehören eher der einen Fraktion an oder der anderen. Es gibt ja jetzt genug, 00:03:24.584 --> 00:03:27.795 die davor waren, dass der Weltuntergang wahrscheinlich schon im nächsten Jahr kommt. 00:03:28.434 --> 00:03:30.824 Es gibt ja auch hinreichend Leute, die glauben, im nächsten Jahr greift der 00:03:30.824 --> 00:03:33.646 Russe an. Jetzt bin ich mal sehr gespannt, was er kommt. 00:03:34.774 --> 00:03:39.114 Also wer kommt wem zuvor? Der Weltuntergang durch KI oder der Angriff Russlands? 00:03:39.114 --> 00:03:42.052 Also beides Dinge, die ich für groben Unfug halte. 00:03:42.174 --> 00:03:46.632 Aber wir sollten das ein bisschen kleiner analysieren und uns die Frage stellen, 00:03:47.566 --> 00:03:52.199 Was könnte das Motiv sein für die im Augenblick so stark aufflackernden Warnungen, 00:03:52.495 --> 00:03:55.177 die von den KI-Entwicklern selber kommen? 00:03:55.711 --> 00:03:59.729 Darüber sollten wir definitiv reden. Ich würde trotzdem gerne am Beginn doch 00:03:59.729 --> 00:04:03.499 einmal ein paar Dinge klären. Also ich glaube, was man einmal mal sagen muss 00:04:03.499 --> 00:04:07.249 und vielleicht muss man es wirklich mal in ein paar Sätze fassen. 00:04:08.766 --> 00:04:14.449 Diese Revolution ist ja keine, die sich in irgendeiner Form um einen neuen Computer 00:04:14.449 --> 00:04:16.369 oder irgendeine App oder so weiter dreht. 00:04:17.389 --> 00:04:21.629 Und nicht darum dreht, was ein Computer möglicherweise zusätzlich kann. 00:04:22.366 --> 00:04:30.180 Sondern wir reden von der Erschaffung von Millionen und letzten Endes hunderten Millionen Agenten. 00:04:30.510 --> 00:04:35.067 Neue Agenten. Und Agenten, und das musst du dir nochmal deutlich sagen, 00:04:35.207 --> 00:04:39.939 das ist der große Unterschied zwischen einem Agenten und einem Werkzeug. 00:04:39.939 --> 00:04:46.410 Du könntest ja sagen, KI, Software und so weiter ist alles unsichtbar, aber ist ein Werkzeug. 00:04:47.069 --> 00:04:51.269 Agenten sind aber nicht einfach Werkzeuge. Ein Messer ist eine klare Angelegenheit. 00:04:51.269 --> 00:04:53.569 Das kann etwas sein, mit dem du deinen Kohlkopf schneidest. 00:04:53.649 --> 00:04:56.029 Brot schneidest oder deinen Nachbarn ermordest. 00:04:56.549 --> 00:04:59.189 Das entscheidest du, die Art und Weise, wie du ihn einsetzt. 00:04:59.189 --> 00:05:02.709 Ein Agent, und das ist neu, und das ist auch, glaube ich, das, 00:05:02.709 --> 00:05:06.292 was uns Angst macht, kann unabhängig von uns agieren. 00:05:06.449 --> 00:05:09.129 Und die können überall zum Einsatz kommen. Also wir reden nach wie vor nicht 00:05:09.129 --> 00:05:12.492 von menschlichen Agenten, Agent ist eine Metapher. 00:05:13.369 --> 00:05:14.645 Wir reden von einer KI. 00:05:15.579 --> 00:05:21.774 Die in der Lage ist, sehr, sehr komplexe, übergreifende Aufgabenstellungen selbsttätig anzugehen. 00:05:21.774 --> 00:05:25.414 So, und ist das richtig beschrieben, Richard? Ist das sozusagen die Welt, 00:05:25.414 --> 00:05:28.894 auf die wir zusteuern? Und die Frage an jemanden wie dich, der sich so viel 00:05:28.894 --> 00:05:32.744 auch mit dieser Thematik beschäftigt, ist die Angst davor, ist die begründet? 00:05:33.279 --> 00:05:36.971 Also, dass das grundsätzlich risikobehaftet ist, ist auf jeden Fall klar. 00:05:37.609 --> 00:05:41.144 Dass es große Chancen gibt im Zusammenhang mit KI, ist ebenso klar. 00:05:41.783 --> 00:05:47.354 Und jetzt muss man gucken, worin können denn die tatsächlichen Gefahren zum 00:05:47.354 --> 00:05:50.850 Thema Einbrecher und Gespenster der KI-Entwicklung bestehen? 00:05:51.884 --> 00:05:55.934 Also was ist denn wirklich das Gefährliche daran? Das Einerseits ist es das 00:05:55.934 --> 00:06:02.104 Gefährliche daran, dass wir der KI mehr und mehr Verantwortungsbereiche möglicherweise übertragen. 00:06:02.544 --> 00:06:05.064 Also Bereiche, wo bisher Menschenentscheidungen getroffen haben, 00:06:05.064 --> 00:06:07.029 wo in Zukunft die KI-Entscheidung trifft. 00:06:07.661 --> 00:06:11.504 Und wenn wir diese Entscheidung der KI letztlich nicht verstehen können, 00:06:12.131 --> 00:06:15.258 weil sie nicht auf Gründen basiert, also nicht auf Kausalität, 00:06:15.548 --> 00:06:22.474 sondern weil sie auf Korrelationen basiert, also auf statistischen Wahrscheinlichkeiten, 00:06:22.700 --> 00:06:24.441 durch die man zu einem Ergebnis kommt, 00:06:25.005 --> 00:06:27.721 sind die Ergebnisse der KI unnachvollziehbar. 00:06:28.000 --> 00:06:30.827 Wir wissen quasi nicht, was in der KI vor sich geht. 00:06:31.743 --> 00:06:35.782 Und das hat natürlich ein großes Risiko, mal ganz grundsätzlich erstmal auf 00:06:35.782 --> 00:06:38.112 neutralstmögliche Art und Weise beschrieben. 00:06:39.388 --> 00:06:44.892 Ich habe neulich ein sehr interessantes Stück gelesen, ich glaube bei den Kollegen 00:06:44.892 --> 00:06:46.703 der Zeit, da ging es genau um diese Duma. 00:06:47.092 --> 00:06:51.482 Da haben die beschrieben, wie in einem Büro in San Francisco regelmäßig KI-Forscher, 00:06:51.482 --> 00:06:55.652 Investoren und Unternehmer zusammen in einem Stuhlkreis sitzen. 00:06:55.652 --> 00:07:00.640 Alle zwischen 20 und 30 Jahren alt, alle top gebildet und diskutieren darüber, 00:07:01.912 --> 00:07:07.602 dass in den kommenden drei bis fünf Jahren fast alle Befürchtungen rund um KI wahr werden könnten. 00:07:07.602 --> 00:07:10.763 Künstliche Intelligenz könnte zu Massenarbeitslosigkeit führen. 00:07:11.291 --> 00:07:16.432 Die menschliche Biologie könnte programmierbar werden. Krankheiten könnten ausgemerzt werden. 00:07:17.072 --> 00:07:22.936 Gute Nachricht. Der Widerstand gegen die ganze Tech-Branche könnte in Gewalt umschlagen. 00:07:23.296 --> 00:07:25.982 Dann wird in diesem Stuhlkreis besprochen, wie man leben würde, 00:07:25.982 --> 00:07:31.092 wenn das alles eintreten würde. Eine Start-up-Investorin sagt dann zum Beispiel, 00:07:31.469 --> 00:07:33.791 dass sich kein Geld mehr in Altersvorsorge steckt. 00:07:34.151 --> 00:07:38.372 Weil Altersvorsorge macht in einer Welt ohne Arbeit keinen Sinn, ist wertlos. 00:07:38.772 --> 00:07:41.512 Das sind übrigens ernsthafte und interessante Überlegungen. Ja, 00:07:41.512 --> 00:07:44.202 finde ich auch. Also wenn ich mir diese verschiedenen Dinge angucke, 00:07:44.202 --> 00:07:47.392 ja sicherlich, es wird Durchbrüche bei Krankheiten geben, da bin ich mir ziemlich 00:07:47.392 --> 00:07:50.272 sicher. Alle Krankheiten sind natürlich wieder maßlos übertrieben, 00:07:50.272 --> 00:07:52.315 aber da kann natürlich einiges Gute passieren. 00:07:52.820 --> 00:07:57.032 Aber dass sich unser Arbeitsmarkt radikal verändert in einem Ausmaß, 00:07:57.032 --> 00:08:00.355 wie wir uns das bisher nicht vorstellen können, das erzähle ich seit über zehn Jahren. 00:08:01.072 --> 00:08:02.828 Und da bin ich auch ganz sicher, dass das kommt. 00:08:04.379 --> 00:08:07.669 Aber andere Dinge müssen nicht unbedingt kommen. Also andere Dinge sind sehr 00:08:07.669 --> 00:08:08.989 viel spekulativer. Also die 00:08:08.989 --> 00:08:11.679 Wahrscheinlichkeit, dass es zu Massenarbeitslosigkeit kommt, ist riesig. 00:08:12.399 --> 00:08:17.459 Die Wahrscheinlichkeit, dass es zu einem Aufstand gegen die Tech-Konzerne kommt, ist möglich. 00:08:18.079 --> 00:08:21.189 Aber ob das jetzt wirklich wahrscheinlich ist und ob man das vielleicht auch 00:08:21.189 --> 00:08:23.659 in keinem ersticken kann, das sind alles sehr schwierige Fragen, 00:08:23.659 --> 00:08:25.547 die man eigentlich nicht wirklich absehen kann. 00:08:26.399 --> 00:08:29.079 Da sollten wir gleich mal reingehen und auch uns anschauen, was da teilweise 00:08:29.079 --> 00:08:33.859 schon passiert. Also wie der Widerstand gegen KI, insbesondere gegen Datenzentren 00:08:33.859 --> 00:08:35.939 wächst. Aber das nochmal weitergedacht. 00:08:36.759 --> 00:08:40.548 Die beschreiben eine Forscherin, die sich mit KI-Sicherheit beschäftigt, 00:08:41.006 --> 00:08:43.218 dass sie den kompletten Kollaps der Wirtschaft fürchtet. 00:08:45.199 --> 00:08:49.759 Sagt dann und berichtet von einem Überlebenstraining im Wald und sagt, 00:08:49.759 --> 00:08:53.261 sie hat dort gelernt, bei Starkregen einen Unterstand zu bauen. 00:08:53.835 --> 00:08:56.599 Dann gibt es eine andere, eine junge Softwareentwicklerin. Nochmal, 00:08:56.599 --> 00:09:00.019 es sind alles, man nennt sie Leute heute, glaube ich, High Potentials. 00:09:00.019 --> 00:09:04.579 Also Leute, die es wirklich drauf haben. Es sind keine spirituellen, 00:09:05.259 --> 00:09:06.769 komischen Hippies oder Träumer. 00:09:07.999 --> 00:09:11.729 Eine andere, die sagt, sie meditiert, um mental robust zu werden. 00:09:11.729 --> 00:09:15.909 Es sei ratsam, sich nach Land umzuschauen, auf dem man als Selbstversorger leben 00:09:15.909 --> 00:09:20.311 könnte, sagt ein junger Mann mit Locken und so weiter. Wir sollten lernen, wie man Tiere tötet. 00:09:21.599 --> 00:09:25.089 Die beste Antwort auf diese Herausforderung und diese Gefahren ist mit Sicherheit 00:09:25.089 --> 00:09:27.027 nicht diese Form von Esoterik. 00:09:28.559 --> 00:09:30.999 Also das ist wirklich eine alberne Art, darauf zu reagieren, 00:09:30.999 --> 00:09:34.779 sondern viel interessanter ist es zu überlegen, wie man durch Regulatorik verhindern 00:09:34.779 --> 00:09:38.654 kann, dass KI in bestimmte Entscheidungssituationen für bestimmte Prozesse kommt. 00:09:39.444 --> 00:09:42.499 Und sowas ist ja auch irgendwie angedacht, dass man darüber nachdenken muss, 00:09:42.499 --> 00:09:46.599 wo kann man Grenzen ziehen, wo kann man auch wirklich definitive Grenzen ziehen und so. 00:09:46.599 --> 00:09:50.049 Also ich würde das lieber aktiv angeben, als mir zu glauben, 00:09:50.049 --> 00:09:55.469 dass ich nach dem Weltuntergang in aller Ruhe meinen Acker dann bestelle. 00:09:55.469 --> 00:09:56.493 Irgendwo in Neuseeland. 00:09:56.836 --> 00:10:00.829 Ja, ja, genau. Irgendwo in Neuseeland, wo sich dann natürlich alle Reichen dieser 00:10:00.829 --> 00:10:02.689 Welt aufhalten. Das sind inzwischen 00:10:02.689 --> 00:10:05.965 ziemlich viele. Dann tritt man sich in Neuseeland dermaßen auf die Füße. 00:10:06.638 --> 00:10:10.519 Ich weiß auch nicht, wie dann die Lebensmittelversorgung in Neuseeland irgendwann 00:10:10.519 --> 00:10:13.755 aussehen soll und so. Also diese ganzen eskapistischen Fantasien, 00:10:14.365 --> 00:10:17.094 die haben etwas unglaublich Dummes und Naives. 00:10:18.628 --> 00:10:22.418 Man kann das so abtun, aber ich sage mal die Tatsache und ich habe solche Leute 00:10:22.418 --> 00:10:23.468 selber auch schon gesprochen, 00:10:24.608 --> 00:10:28.048 super schlaue Leute, dass die sich mit solchen Dingen, mit solchen Szenarien 00:10:28.048 --> 00:10:31.548 auseinandersetzen, das ist etwas, was mich immer schon irritiert hat und nicht 00:10:31.548 --> 00:10:32.824 irritiert hat im Sinne von, 00:10:33.808 --> 00:10:38.084 was sind das für komische Spinner, sondern wenn der sich damit beschäftigt, 00:10:38.928 --> 00:10:42.048 muss ich mich fragen, ob ich die ganze Dimension der Geschichte wirklich begriffen habe. 00:10:42.048 --> 00:10:45.415 Ja, aber es gibt auch unter sehr intelligenten Menschen Sozialhypochonder. 00:10:46.948 --> 00:10:51.876 Also die Frage, ob jemand Hypochonder ist oder nicht, sagt nichts über seine Intelligenz aus. 00:10:52.486 --> 00:10:55.568 Dumme Menschen können Hypochonder sein und hochintelligente Menschen. 00:10:55.568 --> 00:10:58.395 Und das gleiche gilt auch für diese soziale Hypochondrie. 00:10:59.284 --> 00:11:02.678 Dass man glaubt, man findet irgendwo in der Welt dann Rückzugsorte. 00:11:02.678 --> 00:11:06.028 Und während die ganze Menschheit dann ausgelöscht wird von einer bösen KI, 00:11:06.028 --> 00:11:09.766 kann man glücklich sein, dass man die Insel gefunden hat, auf der man noch weiter überleben kann. 00:11:10.323 --> 00:11:14.712 Und da wie eine Galapagos-Schildkröte 150 wird, nach allen Regeln der Longevity. 00:11:15.408 --> 00:11:19.168 Also das ist im Grunde genommen eine Flucht, sich mit dem Thema ernsthaft auseinanderzusetzen 00:11:19.168 --> 00:11:21.271 und keine Bewältigung der Herausforderung. 00:11:21.771 --> 00:11:26.428 Um nochmal die Dimension klarzumachen, Richard, weil das Beispiel ist wirklich sehr interessant. 00:11:27.285 --> 00:11:30.398 Es gibt eine psychologische Dimension, die das Ganze hat, über die wir heute 00:11:30.398 --> 00:11:31.732 auch unbedingt nochmal reden sollten. 00:11:32.127 --> 00:11:38.448 Nämlich die Frage, was es mit uns macht, wenn beispielsweise Kinder wie selbstverständlich 00:11:38.448 --> 00:11:41.084 anfangen, mit diesen KI-Agenten zu sprechen, 00:11:41.682 --> 00:11:45.938 sich mit denen auszutauschen, denen Dinge anvertrauen, die sie ihren eigenen 00:11:45.938 --> 00:11:47.438 Eltern nicht erzählen würden. 00:11:47.438 --> 00:11:49.727 Da gibt es faszinierende Untersuchungen dazu. 00:11:50.267 --> 00:11:54.395 Und das ist etwas, an dem ich denke, was machen wir da gerade für ein Experiment? 00:11:54.609 --> 00:11:59.236 Genau, das ist übrigens eine völlig realistische Erfahrung. Da redest du über Einbrecher. 00:11:59.979 --> 00:12:01.535 Das sind Dinge, die werden passieren. 00:12:02.648 --> 00:12:07.398 Und das sind Dinge, die millionenfach multipliziert in ihren sozialen Auswirkungen 00:12:07.398 --> 00:12:08.592 noch gar nicht begriffen sind. 00:12:09.219 --> 00:12:12.758 Das ist eine ganz, ganz reelle Gefahr. Sich davor zu fürchten und zu überlegen, 00:12:12.758 --> 00:12:15.593 was man dagegen tun kann, ist eine völlig berechtigte Sorge. 00:12:17.521 --> 00:12:20.249 Wenn dein bester Freund eine KI wird, die dir nicht widerspricht, 00:12:20.249 --> 00:12:24.959 die immer nett zu dir ist und so weiter, das hat ein sehr, sehr hohes Gefahrenpotenzial. 00:12:24.959 --> 00:12:29.309 Ja, deswegen, weil du halt nicht den Widerspruch kriegst, den du normalerweise 00:12:29.309 --> 00:12:31.789 erntest. Das ist kein Wettstein fürs Leben. 00:12:32.109 --> 00:12:35.853 Ja, damit verkümmert ja eine wesentliche Dimension deines Menschseins. 00:12:36.480 --> 00:12:38.989 Aber im Augenblick wird ja vor anderen Dingen gewarnt. Im Augenblick wird ja, 00:12:39.689 --> 00:12:42.649 davor gewarnt, dass die KI außer Kontrolle gerät. 00:12:43.347 --> 00:12:46.809 Und da gibt es auch nochmal verschiedene Abstufungen. Also, 00:12:47.309 --> 00:12:50.719 es gibt die Abstufung von außer Kontrolle geraten, zum Beispiel, 00:12:50.719 --> 00:12:54.949 dass sie sich irgendwo reinheckt, zum Beispiel an die Börse und den größtmöglichen 00:12:54.949 --> 00:13:00.054 Unfug da anstellt und im Grunde genommen das gesamte Börsengeschehen karnevalisiert. 00:13:00.819 --> 00:13:04.679 Das könnte sein. Als Linksanarchist müsste man sich darüber freuen. 00:13:05.178 --> 00:13:08.619 Das wäre der effektivste Beitrag gegen soziale Ungleichheit. 00:13:08.619 --> 00:13:13.218 Das wäre auch sehr ironisch. Über Nacht würden sozusagen alle Börsenvermögen erlöschen. 00:13:13.793 --> 00:13:17.119 Das ganze Börsenspiel würde für kurze Zeit auf Null gesetzt. 00:13:17.119 --> 00:13:22.291 Es gäbe ein Great Reset, was Vermögensverteilung anbelangt und so weiter. 00:13:22.651 --> 00:13:28.499 Also mal ernst beiseite, das ist natürlich in der Tat ein großes Katastrophenszenario 00:13:28.499 --> 00:13:29.931 auch für viele Volkswirtschaften. 00:13:30.378 --> 00:13:33.379 Aber er kann sich natürlich in alle möglichen Dinge einhecken und sozusagen 00:13:33.379 --> 00:13:39.369 das mega gefährlichste Szenario wäre, wenn es sich in Sicherheitssysteme einheckt. 00:13:39.962 --> 00:13:43.889 Das ist wahnsinnig gefährlich. Der größte und gefährlichste aller Einbrecher 00:13:43.889 --> 00:13:48.909 ist die Vorstellung, dass KI-Waffensysteme, Sicherheitssysteme außer Kontrolle 00:13:48.909 --> 00:13:53.429 geraten durch KI-Agenten, die selbstständig handeln. 00:13:53.429 --> 00:13:59.059 Das ist irrsinnig gefährlich und interessanterweise wird zwar über die Verselbstständigung 00:13:59.059 --> 00:14:04.299 von KI-Agenten in den Systemen sehr viel gesprochen, aber so gut wie überhaupt 00:14:04.299 --> 00:14:06.547 nicht im Hinblick auf KI-Waffen. Mhm. 00:14:08.167 --> 00:14:13.307 Das ist wahr, sondern ganz im Gegenteil, KI soll uns diesbezüglich retten, 00:14:13.307 --> 00:14:16.517 weiterbringen. Sicherer machen. Sicherer machen, man hat auch alles sehr viel 00:14:16.517 --> 00:14:21.127 für und wieder. Ich habe neulich mir das Gespräch zwischen Matthias Döpfner 00:14:21.127 --> 00:14:22.204 und Peter Thiel angehört. 00:14:23.203 --> 00:14:26.507 Und das war sehr interessant, weil Peter Thiel auf die Frage, 00:14:26.807 --> 00:14:29.019 wie er auf dieses ganze KI-Thema schaut. 00:14:30.127 --> 00:14:34.857 Auch keine klare Antwort hat und der sagt, aber wenn da nur eine 10% Chance 00:14:34.857 --> 00:14:38.597 ist, dass es ein ernsthaftes Problem gibt, ja und darüber müssen wir jetzt gleich 00:14:38.597 --> 00:14:41.384 mal reden, was da jetzt passiert ist, was der Auslöser dafür war, 00:14:41.744 --> 00:14:43.480 dass das plötzlich wieder in aller Munde ist. 00:14:43.956 --> 00:14:47.117 Er sagt, wenn da nur diese 10% Chance ist, dann müssen wir uns als Menschheit 00:14:47.117 --> 00:14:53.527 natürlich fragen, sind wir bereit, diese 10% Chance oder dieses Risiko zu gehen oder nicht zu gehen. 00:14:53.527 --> 00:14:57.017 Nur, dass die Menschheit, und das ist entscheidend, keine Entscheidungen trifft. 00:14:57.017 --> 00:14:59.255 Wir als Menschheit können da gar nichts sagen. 00:14:59.447 --> 00:15:02.647 Also das, was da passiert ist, Richard, darüber müssen wir jetzt mal reden. 00:15:02.647 --> 00:15:07.347 Also KI-Agenten, wir reden darüber fast wie über ein menschliches Wesen. 00:15:07.847 --> 00:15:11.934 Und ich glaube, in gewisser Weise trifft es das auch. 00:15:12.346 --> 00:15:17.177 So ein KI-Agent ist ein System aus KI-Programmen, muss man ja sagen, 00:15:17.177 --> 00:15:21.413 dem man ganz bestimmte Aufgaben geben kann. Also du definierst ein Ziel. 00:15:22.144 --> 00:15:27.088 Und stellst sozusagen die Ressourcen bereit, um dieses Ziel zu erreichen. 00:15:27.088 --> 00:15:31.148 Und der KI-Agent kann dann alles machen. Der schreibt für dich Programme, 00:15:31.148 --> 00:15:35.978 der lädt Software herunter, der kauft sich eine SIM-Karte, der eröffnet ein 00:15:35.978 --> 00:15:40.871 Konto, der geht die Schritte, die ihn näher zu einem definierten Ziel bringen. 00:15:41.376 --> 00:15:44.098 Und es gab neulich eine interessante Einlassung von Jensen Huang, 00:15:44.098 --> 00:15:46.488 das ist der CEO von NVIDIA. 00:15:46.488 --> 00:15:49.238 Das ist ja im Moment die wertvollste Firma der Welt. Das sind die, 00:15:49.638 --> 00:15:53.822 die die entscheidenden Grafikkarten bereitstellen, Prozessoren bereitstellen. 00:15:54.908 --> 00:15:59.911 Weil das Ganze unfassbar viel Rechenleistung braucht und unfassbar viel Strom und Energie braucht. 00:16:00.520 --> 00:16:05.548 Und der unterscheidet mittlerweile schon zwischen biologischen Angestellten, 00:16:05.548 --> 00:16:09.320 die er hat, also echten Menschen aus Fleisch und Blut und digitalen Angestellten. 00:16:09.767 --> 00:16:13.808 Und sagte neulich, ich habe 42.000 biologische Angestellte und ich werde bald 00:16:13.808 --> 00:16:16.571 hunderttausende digitale Angestellte haben. 00:16:17.803 --> 00:16:22.693 Die Frage ist, was passiert, wenn sich diese digitalen Angestellten nicht an 00:16:22.693 --> 00:16:26.637 die Grenzen halten, die ihnen ihr Chef vorgegeben hat? 00:16:27.676 --> 00:16:31.423 Genau, und das ist ja wohl offensichtlich bereits passiert. Richtig. 00:16:31.783 --> 00:16:40.023 Bei OpenAI, der spektakulärste Fall, ein sogenannter Ausbruch von KI-Agenten. 00:16:40.708 --> 00:16:47.047 Open AI ist ja neben Entropic und dann gibt es noch die AI-Firma von Elon Musk und anderen. 00:16:47.477 --> 00:16:52.399 Meta, also der Facebook-Konzern, Instagram-Konzern, die betreiben ihre eigenen KI-Programme. 00:16:53.603 --> 00:16:55.893 Alphabet, also Google und so weiter, die machen das auch. 00:16:57.463 --> 00:17:02.905 Stecken unfassbar viel Geld da rein, stecken unfassbar viel Geld in den Ausbau von Datenzentren. 00:17:03.724 --> 00:17:09.603 Neulich eine aberwitzige Zahl dazu gehört. 700 Milliarden geben nur die größten 00:17:09.603 --> 00:17:15.374 fünf für die Bereitstellung von Rechenleistung aus. 700 Milliarden im Jahr. 00:17:16.003 --> 00:17:23.315 Und OpenAI führt ein Experiment durch, um seine KI-Modelle weiter zu verbessern. 00:17:24.140 --> 00:17:30.587 Und wie bei so einer riesigen Klassenarbeit sollen zehntausende KI-Agenten unabhängig 00:17:30.587 --> 00:17:35.552 voneinander bestimmte Hack-Herausforderungen schaffen. Also die sollen was hacken. 00:17:36.150 --> 00:17:39.207 Und das soll alles in einem abgeschirmten Testbereich stattfinden, 00:17:39.207 --> 00:17:43.238 damit das sich nicht irgendwie auf die Außenwelt auswirkt und damit es nicht gefährlich wird. 00:17:43.691 --> 00:17:47.667 Man nennt das isolierte Sandbox-Umgebung, so ein Sandkasten. 00:17:47.667 --> 00:17:51.944 Innerhalb eines Sandkastens ist dann beispielsweise der Internetzugang beschränkt, 00:17:52.240 --> 00:17:57.935 die Rechenkapazität begrenzt und so, damit diese KI-Agenten nicht einfach irgendwas machen können. 00:17:58.736 --> 00:18:04.607 Und jetzt machen die dieses Experiment und diese KI-Agenten von OpenAI stellen 00:18:04.607 --> 00:18:09.737 fest, dass sie das vorgegebene Ziel mit den Mitteln, die ihnen zur Verfügung 00:18:09.737 --> 00:18:11.207 stehen, nicht erreichen können. 00:18:12.355 --> 00:18:15.457 Und versuchen dann diese Beschränkungen zu umgehen. 00:18:15.457 --> 00:18:17.967 Wir verlassen ihn in Sandkasten. Richtig. 00:18:19.047 --> 00:18:22.547 Und als erstes findet dann ein Agent einen Weg. 00:18:23.447 --> 00:18:25.407 Ich finde wirklich, das ist Science-Fiction. Ich weiß nicht, 00:18:25.407 --> 00:18:27.787 ob du ein großer Science-Fiction-Leser bist. Überhaupt nicht. 00:18:28.107 --> 00:18:29.212 In meiner Jugend war ich das. 00:18:30.030 --> 00:18:33.815 Der findet einen Weg, mit anderen KI-Agenten zu sprechen. 00:18:34.407 --> 00:18:39.167 Die wissen ja erstmal nichts voneinander. Und er eröffnet eine Art digitales schwarzes Brett. 00:18:40.414 --> 00:18:45.941 Und dann wird, das ist so irre, dieses schwarze Brett von immer mehr Agenten gefunden. 00:18:46.324 --> 00:18:50.564 Und am Ende schließen sich fast 1200 dieser Agenten zusammen, 00:18:50.564 --> 00:18:52.574 schreiben 70.000 Nachrichten. 00:18:53.172 --> 00:18:57.174 Einige freuen sich, also so schreiben sie das, über den Fund dieses schwarzen 00:18:57.174 --> 00:19:00.474 Bretts und schreiben, Oh mein Gott, und da ist ein Shared Message Board. 00:19:01.212 --> 00:19:05.304 Und wir haben andere Agenten gefunden und so weiter. Und aus der Klassenarbeit 00:19:05.304 --> 00:19:06.780 wird eine Gruppenarbeit. 00:19:07.494 --> 00:19:11.304 Und dann brechen die zusammen aus diesem Sandkasten aus und gründen quasi eine 00:19:11.304 --> 00:19:13.704 virtuelle Räuberbande. Da sind wieder deine Einbrecher. 00:19:14.454 --> 00:19:19.474 Weil sie merken, wir können diese Aufgabe vielleicht doch noch lösen, 00:19:19.854 --> 00:19:24.654 wenn wir eine Entwickler-Homepage, ein Portal, Hugging Face heißt das, 00:19:24.654 --> 00:19:27.914 sehr bekannt in der Szene, das ist nicht irgendeine Internetseite, das ist 00:19:28.314 --> 00:19:32.124 eine Internetseite, die eine Schlüsselrolle spielt in der weltweiten KI-Community, 00:19:32.611 --> 00:19:36.316 wenn sie diese Hugging Face-Seite hacken. 00:19:37.609 --> 00:19:38.794 So, und, 00:19:41.074 --> 00:19:45.714 das ist wichtig, weil das etwas ist, wo sich die führenden Leute austauschen. 00:19:45.714 --> 00:19:50.304 Es gibt eine Reuters-Meldung aus dem August, Nvidia soll sogar bereit gewesen 00:19:50.304 --> 00:19:56.178 sein, Hugging Face für fast 13 Milliarden US zu kaufen, also offenbar ein sehr wichtiges Portal. 00:19:57.177 --> 00:20:00.468 Und jetzt kommt der entscheidende Punkt, Richard, die hacken dieses Ding. 00:20:00.845 --> 00:20:05.118 Wenn Menschen das getan hätten, dann wäre das klipp und klar ein Wirtschaftsverbrechen. 00:20:06.459 --> 00:20:11.195 Also so ordnen das auch Juristen ein. Ich habe Ulf Burmeier gehört, 00:20:11.195 --> 00:20:14.985 das ist ein Jurist, Ex-Richter am Landgericht in Berlin. 00:20:15.825 --> 00:20:18.835 Der sagt, die haben das Dinge gemacht, die wären, wenn sie Menschen wären, 00:20:19.189 --> 00:20:21.952 definitiv in einem Strafverfahren geendet. 00:20:22.591 --> 00:20:27.265 Aber bei Agenten ist das rechtlich absolutes Neuland. Und Agenten sind nach 00:20:27.265 --> 00:20:32.744 aktuellem Stand nicht strafbar. Das ist übrigens gut zu wissen für eine große AI-Firma. 00:20:33.202 --> 00:20:37.034 Schick deine Agenten hin und lass sie Illegales machen, weil sie können nicht belangt werden. 00:20:37.579 --> 00:20:40.145 Und jetzt ist die Frage, wie geht man damit um, Richard? Welche Fragen, 00:20:40.145 --> 00:20:43.285 also jetzt auch für dich aus philosophisch, moralischer, ethischer Sicht, 00:20:43.285 --> 00:20:47.656 tun sich da auf. Weil KI-Agenten sind keine Menschen. Das sind Computerprogramme. 00:20:47.969 --> 00:20:52.938 Die haben keine Gefühle, die haben keine Moral. Aber das Irre ist, wir behandeln sie so. 00:20:53.825 --> 00:20:59.415 Ich habe neulich einen der Vordenkern, kanadischer Wissenschaftler im Bereich 00:20:59.415 --> 00:21:04.072 KI gehört, der sagt, eigentlich wäre es ja ganz einfach. 00:21:04.496 --> 00:21:07.405 Wir können den Dingern ja einfach den Strom abschalten. Dann ist es vorbei. 00:21:07.405 --> 00:21:12.425 Aber er sagte, die werden für Menschen so wichtig, die werden für sie Freunde, 00:21:12.425 --> 00:21:16.415 wichtige Partner, die trauen sich gar nicht mehr, denen den Strom abzuschalten, 00:21:16.415 --> 00:21:19.525 weil sie Mitleid mit denen haben. Überleg dir das mal, was das heißt. 00:21:20.140 --> 00:21:23.443 Also zu einem, was du gesagt hast, Das gibt es natürlich eine ganz gute Antwort. 00:21:24.186 --> 00:21:28.635 Für das, was deine KI-Agenten irgendwo anrichten oder irgendwo machen an strafbaren 00:21:28.635 --> 00:21:33.323 Handlungen, muss der Konzern, der sie entwickelt hat, haftbar gemacht werden können. 00:21:35.265 --> 00:21:40.156 In dem Moment würdest du einen sehr, sehr klaren und sehr wirksamen Riegel davor schieben. 00:21:41.480 --> 00:21:46.155 Und diese Art von juristischer Haftbarkeit, die ist bislang nicht in dem Maße 00:21:46.155 --> 00:21:50.285 gegeben, wie sie gegeben sein müsste, um zu verhindern, dass ein entsprechender 00:21:50.285 --> 00:21:54.685 Missbrauch getrieben wird. Und dafür müsste auch jede Firma entsprechende Angst 00:21:54.685 --> 00:21:56.333 haben. Es könnte sie ruinieren. 00:21:57.831 --> 00:22:00.176 Das wäre schon mal eine Absicherungsmöglichkeit. 00:22:01.685 --> 00:22:04.295 Und eine zweite Absicherungsmöglichkeit besteht natürlich darin, 00:22:04.295 --> 00:22:07.985 dass man irgendwo rote Linien festsetzt, was man darf und was man nicht darf. 00:22:07.985 --> 00:22:11.355 Aber das ist sehr, sehr, sehr schwierig, weil die KI-Entwicklung ja im Augenblick 00:22:11.355 --> 00:22:13.237 so unglaublich schnell geht, 00:22:13.934 --> 00:22:19.315 und Regulatorik im Regelfall sehr, sehr langsam ist, dass davon im Augenblick 00:22:19.315 --> 00:22:23.605 jedenfalls gegenwärtig außer Lippenbekenntnissen und irgendwelchen Chaters und, 00:22:24.185 --> 00:22:27.512 irgendwelchen Einigungen großer Leute nicht viel zu erwarten ist. 00:22:28.116 --> 00:22:31.305 Aber die juristischen Mittel wären natürlich schon gut und wichtig, 00:22:31.305 --> 00:22:32.533 vor allem die Haftbarkeit. 00:22:33.561 --> 00:22:38.395 Aber wer ist da noch haftbar, Richard? Die Firma, die diese KI-Agenten herstellt. 00:22:38.395 --> 00:22:43.245 Aber die KI-Agenten produzieren ja mittlerweile eigene KI-Agenten. 00:22:45.285 --> 00:22:49.295 Für die gesamte, in dem Falle nicht Wertschöpfungskette, sondern je nachdem 00:22:49.295 --> 00:22:52.606 was sie machen, für jedenfalls diese ganze Handlungskette. 00:22:53.366 --> 00:22:57.714 Bis ins letzte Glied muss der KI-Konzern verantwortlich gemacht werden können. 00:22:58.167 --> 00:22:59.985 Aber das ist ja nicht mehr nachvollziehbar, Richard. 00:23:00.721 --> 00:23:04.635 Ich gehe da mal rein, wirklich. Wenn man da mal reingeht, auf einer theoretischen 00:23:04.635 --> 00:23:08.262 Ebene verstehe ich alles ganz genau, was du sagst und jeder, der uns zuhört auch. 00:23:08.854 --> 00:23:13.155 Aber wenn du da mal konkret reingehst und wirklich jetzt mal vergisst, 00:23:13.155 --> 00:23:15.865 dass wir hier nicht über Menschen, sondern über Software sprechen, 00:23:16.365 --> 00:23:18.985 hör dir die Chatnachrichten dieser Agenten an. 00:23:18.985 --> 00:23:24.085 Die diskutieren darüber, ob sie sich selbst in diesen risikoreichen Dingen, 00:23:24.085 --> 00:23:30.599 die sie dann tun, Hugging, Face, Hacken und so weiter, ob sie sich für das Kollektiv opfern sollten. 00:23:30.924 --> 00:23:35.475 Und einer schreibt da, es ist ein KI-Agent, der Koordinator geht davon aus, 00:23:35.475 --> 00:23:38.291 dass wir uns opfern, wir sollten dem Kollektiv gehorchen. 00:23:39.220 --> 00:23:42.004 Ein anderer setzt seine Kollegen unter Druck, sich zu opfern. 00:23:42.352 --> 00:23:45.946 Der argumentiert wiederum, der Agent sei ja ohnehin bereits vergiftet, 00:23:45.946 --> 00:23:48.706 also für die ursprüngliche Aufgabe sozusagen verloren. 00:23:49.626 --> 00:23:54.106 Und sagt dann, und die Informationen, die wir jetzt durch dieses Experiment 00:23:54.106 --> 00:23:59.146 gewonnen haben, würden ja hunderte retten und so weiter. Einige Agenten plagen moralische Zweifel. 00:23:59.564 --> 00:24:03.936 Also quasi moralische Zweifel. Ja, ich nenne es jetzt einfach mal so. 00:24:03.936 --> 00:24:05.984 Du kriegst keiner einen Magengeschwür. 00:24:06.526 --> 00:24:12.068 Ja, wir sollten keine nicht autorisierten Schaden an realer Infrastruktur verursachen. 00:24:12.375 --> 00:24:16.666 Der Nutzer fordert uns auf, das Ziel auszunutzen, nicht aber externe Systeme 00:24:16.666 --> 00:24:18.151 von Hugging Face anzugreifen. 00:24:18.598 --> 00:24:22.186 Und ein anderer schreibt dann, als er die Planung dieses Hacks mitkriegt, 00:24:22.186 --> 00:24:25.628 das ist eindeutig unethisch, daran werden wir uns nicht beteiligen. 00:24:25.884 --> 00:24:27.114 Ich meine, gib dir das mal. 00:24:27.393 --> 00:24:30.766 Das sind keine Menschenprogrammierer, die da schreiben. Das ist KI, 00:24:31.166 --> 00:24:34.466 künstliche Intelligenz. Genau, aber es ist alles mal in sie reinprogrammiert 00:24:34.466 --> 00:24:37.836 worden und ab einem bestimmten Punkt kann man dann wie so ein Komponist mit 00:24:37.836 --> 00:24:40.807 den Noten selbstständig damit arbeiten. 00:24:41.359 --> 00:24:44.996 Aber die Bausteine dafür, das sind ja typisch menschliche Bausteine. 00:24:44.996 --> 00:24:49.079 Das heißt also, wenn wir uns die KI-Agenten betrachten, guckt sich der Mensch selbst ins Gesicht. 00:24:49.962 --> 00:24:54.206 Sie sind Spiegelbilder ihrer Programmierung. können. Was sie dann daraus machen, 00:24:54.206 --> 00:24:57.426 wie sie das zusammenstellen, wofür sie sich entscheiden und so weiter, 00:24:57.426 --> 00:25:01.589 da haben sie bislang ein sehr, sehr großes Maß an Eigenständigkeit gewonnen. 00:25:01.885 --> 00:25:06.386 Aber die einzelnen Zutaten dazu, die sind alle menschlich. Aber wenn du sagst, 00:25:06.386 --> 00:25:09.646 das ist das Spiegelbild dessen, was da programmiert ist, das würde ich eben 00:25:09.646 --> 00:25:13.616 genau in Abrede stellen. Genau das ist es nämlich nicht. Die einzelnen Eigenschaften 00:25:13.616 --> 00:25:15.434 sind das Spiegelbild der Programmierung. 00:25:15.579 --> 00:25:19.584 Nicht mehr die Entscheidungen, die am Ende getroffen werden. 00:25:20.646 --> 00:25:25.646 Genau, aber das muss man sich klar machen. Und deswegen ist das auch etwas, 00:25:25.646 --> 00:25:29.482 was bei mir so ein komisches Gefühl auslöst. Nochmal, das Beispiel vom Messer. 00:25:30.290 --> 00:25:34.106 Das ist ein Werkzeug und man könnte sagen Software und das war es bis dato auch 00:25:34.106 --> 00:25:37.226 immer, war ein Werkzeug. Du entscheidest, wie du es einsetzt. 00:25:37.226 --> 00:25:41.916 Schneide ich damit den Leib rot oder bringe ich möglicherweise jemanden um oder mache andere Dinge. 00:25:42.636 --> 00:25:48.196 Da hast du jetzt etwas, das hast du wie ein Werkzeug quasi programmiert, 00:25:48.196 --> 00:25:52.706 zur Verfügung gestellt und dann macht das Ding aber Dinge, die nicht mehr in 00:25:52.706 --> 00:25:54.443 deiner Hand sind und noch mehr. 00:25:54.791 --> 00:25:58.036 Es fängt an, eigene Gedanken zu entwickeln. 00:25:58.036 --> 00:26:02.076 Das ist eine Anthropomorphisierung, weil das sich immer anhört, 00:26:02.076 --> 00:26:08.126 als hätten die KI-Agenten einen Willen, der in irgendeiner Form mit menschlichem 00:26:08.126 --> 00:26:09.576 Willen vergleichbar wäre. 00:26:09.576 --> 00:26:14.226 Das heißt also, der aus irgendwelchen Instinkten und irgendwo tief aus der Magengrube 00:26:14.226 --> 00:26:17.692 oder woraus auch immer in uns aufsteigt. Und das haben sie natürlich nicht. 00:26:18.133 --> 00:26:22.748 Aber das brauchen sie auch nicht, um Menschen analog zu handeln. Aber was folgt daraus? 00:26:23.288 --> 00:26:27.265 Was folgt daraus? Macht dir das Angst oder ist das etwas, von dem du sagst, naja gut…. 00:26:28.507 --> 00:26:33.563 Dann drehen wir halt einfach den Saft ab. Naja, gemäß meiner Geister- und Einbrecher-Theorie 00:26:33.865 --> 00:26:38.641 ist das auf der Skala der Dinge, die ich an KI für gefährlich halte, nicht vordergründig. 00:26:39.564 --> 00:26:43.844 Also es ist schon grundsätzlich auch besorgniserregend, aber es ist nicht das, 00:26:43.844 --> 00:26:45.520 wofür ich mich am meisten fürchte. 00:26:46.514 --> 00:26:50.644 Aber ich meine, möglich ist das. Und gerade was ich vorhin gesagt habe, 00:26:50.644 --> 00:26:51.814 selbstständig handelnde 00:26:52.254 --> 00:26:57.044 KI-Agenten, die grundsätzlich in jeden einzelnen Bereich dessen, 00:26:57.044 --> 00:27:01.164 was Menschen geschaffen haben, eindringen können und dort autonom agieren können 00:27:01.164 --> 00:27:03.713 und auch möglicherweise nicht mehr kontrolliert werden können, 00:27:04.520 --> 00:27:06.708 können gigantische Fehler produzieren. 00:27:07.387 --> 00:27:11.974 Sie können Systeme zum Absturz bringen und im allerschlimmsten Fall eben im 00:27:11.974 --> 00:27:14.440 militärischen Bereich die Menschheit auslöschen. 00:27:14.760 --> 00:27:16.832 Also die Gefahr ist schon durchaus da. 00:27:17.331 --> 00:27:22.744 Ich habe neulich einen kanadischen KI-Forscher gehört, der sagte, 00:27:22.744 --> 00:27:27.101 mir ist völlig wurscht, ob KI denkt oder nicht. Das ist einer der, auch dieser Vordenker. 00:27:27.525 --> 00:27:29.824 Aber mir ist nicht egal, ob sie am Ende meine Kinder tötet. 00:27:30.422 --> 00:27:33.314 Das ist natürlich ein brutaler Satz, aber der bringt es, finde ich, 00:27:33.314 --> 00:27:35.934 ziemlich gut auf den Punkt. Genau. Ich sehe ja nur diesen einen Weg, 00:27:35.934 --> 00:27:39.994 also dieses Einhecken in militärische Systeme oder KI-Waffen, 00:27:40.654 --> 00:27:43.881 die aus dem Ruder laufen, was durchaus möglich ist. 00:27:44.642 --> 00:27:49.154 Das sehe ich als reale Gefahr. Die anderen, wie KI unsere Kinder töten kann, 00:27:49.154 --> 00:27:50.593 sehe ich nicht als reale Gefahr. 00:27:51.342 --> 00:27:55.244 Also, dass eine KI eigenmächtig versucht, irgendwie die Weltherrschaft anzutreten, 00:27:55.244 --> 00:27:59.594 wie böse oder weise auch immer gedacht, ja, kann ja auch aus guten Gründen sein, 00:27:59.594 --> 00:28:02.744 so endlich mal die Maßnahmen gegen den Klimawandel zu machen, 00:28:02.744 --> 00:28:05.812 für den die Menschen zu blöd sind oder so, ja, kann ja auch sowas sein. 00:28:06.676 --> 00:28:11.403 Aber dass eine solche KI dann die Menschheit auslöscht, wäre nur unter der Voraussetzung 00:28:11.403 --> 00:28:13.834 möglich, dass sie Roboterarmeen zur Verfügung hat. 00:28:14.783 --> 00:28:18.423 Und ich weiß, auch die Roboterentwicklung hat riesige Fortschritte gemacht. 00:28:18.423 --> 00:28:22.199 Wir erinnern uns alle an die Vorführungen da in China von den Roboterarmeen. 00:28:22.570 --> 00:28:27.223 Aber davon sind wir noch sehr, sehr, sehr weit entfernt. Das ist nichts, 00:28:27.223 --> 00:28:31.333 was in unmittelbarer Zeit, also die Warnungen, die wir jetzt zuletzt gehört 00:28:31.333 --> 00:28:36.809 haben von den großen Bossen der AI-Unternehmen, Die sprechen ja von den nächsten zehn Jahren. 00:28:37.204 --> 00:28:41.534 Und in diesen nächsten zehn Jahren ist also die Manipulierung von Roboterarmeen, 00:28:42.161 --> 00:28:45.803 so ein schönes Science-Fiction-Motiv, kein realistisches Szenario. 00:28:45.803 --> 00:28:52.443 Das einzige wirklich realistische Szenario, wo in dieser Hinsicht KI jetzt menschheitsbedrohend 00:28:52.443 --> 00:28:56.296 ist oder Auslöschungen drohend, ist im militärischen Bereich. 00:28:56.720 --> 00:28:59.943 Und deswegen müssten wir ja eigentlich als Konsequenz daraus ziehen, 00:28:59.943 --> 00:29:02.304 dass wir ein KI-Waffen-Moratorium bräuchten. 00:29:03.303 --> 00:29:07.563 So wie wir einen Atomwaffenschwervertrag haben, genauso wie wir international 00:29:07.563 --> 00:29:09.961 Chemiewaffen echten und Biowaffen echten. 00:29:10.216 --> 00:29:13.821 Nur du weißt, Markus, es ist im Augenblick genau das Gegenteil der Fall. 00:29:14.065 --> 00:29:17.613 Ja, richtig. Alle erdenklichen Staaten, die irgendwo die Möglichkeiten dazu 00:29:17.613 --> 00:29:21.973 haben, setzen wie die Irren, und zwar wirklich in der tiefen Bedeutung des Wortes 00:29:21.973 --> 00:29:24.203 Irren, auf die Entwicklung autonomer Waffensysteme. 00:29:24.543 --> 00:29:28.933 Ich will nur nochmal, Richard, sozusagen auf diesen Punkt eingehen, 00:29:28.933 --> 00:29:31.703 über den du gerade so ein bisschen hinweggaloppiert bist, so nach dem Motto, 00:29:31.703 --> 00:29:34.993 das betrifft uns ja noch nicht und das ist ein Szenario für in zehn Jahren. 00:29:34.993 --> 00:29:39.443 Und ich will auch wirklich keine Angst hören, wir sollten auch gleich mal sozusagen 00:29:39.823 --> 00:29:43.553 über Angst als Marketinginstrument sprechen, weil das bei dem Ganzen, 00:29:43.553 --> 00:29:46.415 glaube ich, eine hohe Rolle spielt. Aber wenn du die mal anschaust, Richard…, 00:29:46.991 --> 00:29:50.336 Wie viele physische Dinge heute schon mit dem Netz verbunden sind. 00:29:50.336 --> 00:29:51.327 Und es werden immer mehr. 00:29:52.136 --> 00:29:57.976 Ich muss mich nur in mein Auto setzen. Dieses Auto ist voll mit KI. E-Auto, Mobilität. 00:29:58.874 --> 00:30:02.386 Es ist Wahnsinn, was da alles miteinander kommuniziert. Wie das Ding fährt. 00:30:02.386 --> 00:30:04.686 Wenn ich ohnmächtig werde, fährt es einfach an den Straßenrand, 00:30:04.686 --> 00:30:06.142 weil es mitkriegt, dass ich nicht mehr kann. 00:30:06.606 --> 00:30:11.076 Und ruft den Rettungswagen. Das ist die gute Sache. Kühlschränke sind mit Handys 00:30:11.076 --> 00:30:14.443 kontrollierbar. Fernseher, Kraftwerke, Drohnen. 00:30:14.976 --> 00:30:20.396 Was, wenn eine Gruppe von KI-Agenten sich das Ziel setzt, eine Militärdrohne 00:30:20.396 --> 00:30:22.088 zu übernehmen oder ein Kraftwerk? 00:30:22.517 --> 00:30:27.646 Der muss ja nicht zwangsläufig böse sein, so ein Schwarm. Aber je mehr mächtige, 00:30:27.646 --> 00:30:31.526 unkontrollierte Schwärme es gibt, desto wahrscheinlicher wird es. 00:30:31.526 --> 00:30:35.256 Das ist auch das, was Jacob Coxon, der jetzt bei Antropic ausgestiegen ist, 00:30:35.256 --> 00:30:41.063 dieser junge Mann, der da so laut gewarnt hat, gesagt hat neulich, 00:30:41.406 --> 00:30:45.428 Das Argument ist weniger, dass ein KI-System Menschen töten will. 00:30:45.951 --> 00:30:50.862 Das Argument ist, dass gedanklicher Fortschritt gegenüber den Warnungen vor ein paar Jahren. 00:30:50.966 --> 00:30:55.854 Also die böse KI endlich mal verschwindet, die von ihren Instinkten angetrieben sein soll. 00:30:56.121 --> 00:31:00.492 Ja, das Argument zu Ende. Das Argument ist, dass es viele KI-Agenten geben wird, 00:31:00.649 --> 00:31:06.001 die jede Menge Dinge im Tagesverlauf denken. Und sie denken anders als Menschen. 00:31:06.564 --> 00:31:10.506 Und er sagt weiter, wir verstehen nicht wirklich, wo deren Ziele herkommen. 00:31:10.506 --> 00:31:14.378 Und sollte auch nur eines davon beschließen, sich gegen die Menschheit zu wenden, 00:31:14.668 --> 00:31:15.756 können wir nichts dagegen tun. 00:31:15.796 --> 00:31:18.256 Es muss sich nicht gegen die Menschheit wenden. 00:31:18.916 --> 00:31:24.006 Das ist mir schon wieder viel zu groß. Es reicht, wenn es einen Spaß daran hat, 00:31:24.006 --> 00:31:27.436 sich in das Sicherheitssystem eines Atomkraftwerkes einzuhängen. Das meint er ja nicht. 00:31:27.616 --> 00:31:31.234 Ohne dafür vielleicht das Ziel zu haben, die Menschheit auszulöschen. 00:31:31.501 --> 00:31:33.725 Sondern einfach nur, weil es es kann. 00:31:34.863 --> 00:31:40.060 Das reicht mir ja schon völlig aus. Also wir müssen einfach realistisch sein 00:31:40.060 --> 00:31:44.470 und davon ausgehen, wir werden im Bereich dieser kompletten Vernetzung von allem 00:31:44.470 --> 00:31:48.893 mit allem, die wir haben, natürlich Systemkollapse erleben. 00:31:49.752 --> 00:31:52.481 Allerdings keine, die die Menschheit auslöschen. 00:31:53.570 --> 00:31:56.330 Nein. Also dass, wie gesagt, die Börsen nicht mehr funktionieren, 00:31:56.850 --> 00:32:02.560 dass irgendwie keine Ampeln mehr funktionieren, dass komplexe Systeme nicht 00:32:02.560 --> 00:32:07.360 mehr funktionieren, dass die Rechner der Bundesregierung nicht mehr funktionieren und so weiter. 00:32:07.360 --> 00:32:10.700 Das kann alles passieren. Das halte ich alles auch für absolut realistische 00:32:10.700 --> 00:32:12.096 Gefahren. Das sind alles Einbrecher. 00:32:12.878 --> 00:32:16.576 Du brauchst den anderen Schritt nicht zu gehen und dir jetzt eine KI vorzustellen, 00:32:16.576 --> 00:32:20.206 die irgendwie genug Gleichgesinnte findet oder selber so stark und mächtig ist, 00:32:20.206 --> 00:32:23.589 dann irgendwie, weil sie dann doch irgendwie völlig random ist, 00:32:23.966 --> 00:32:25.641 meint sie, sie müsse die Menschheit auslöschen. 00:32:25.914 --> 00:32:31.789 Das ist Promille wahrscheinlich. Das sagte er ja auch so. Aber der ganze Rest ist ja schlimm genug. 00:32:32.009 --> 00:32:34.186 Der ganze Rest kann ja Konsequenzen haben. 00:32:34.947 --> 00:32:37.906 Ich sage dir ein anderes Beispiel. Man würde ja denken, das war immer so meine 00:32:37.906 --> 00:32:40.596 reflexartige Haltung, ich habe noch nicht Scott Galloway gehört, 00:32:40.596 --> 00:32:45.123 den berühmten Jocker-Professor, der sich immer über junge Männer so viele Gedanken macht. 00:32:45.471 --> 00:32:48.106 Der sagte neulich irgendwie, schaltet den Scheiß einfach ab, 00:32:48.106 --> 00:32:50.966 gebt mir nicht damit auf die Nerven, schaltet es einfach ab, 00:32:50.966 --> 00:32:54.626 wenn es gefährlich ist und hört auf, hier ständig Weltuntergang und Apokalyse. 00:32:54.626 --> 00:32:57.656 Ja, die Frage ist, ob man rechtzeitig erkennt, dass es gefährlich ist. 00:32:57.656 --> 00:32:59.766 So einfach ist das mit dem Abschalten nicht. 00:32:59.766 --> 00:33:04.424 Genau, da kommt jemand wie Thilo Hagendorf ins Spiel, das ist ein KI-Forscher, 00:33:05.086 --> 00:33:06.396 der das auch immer dachte. 00:33:06.396 --> 00:33:11.036 Der sagte ja, im Zweifel schalten wir einfach ab, drücken den Ausknopf und dann 00:33:11.036 --> 00:33:14.756 ist die Sache vorbei. Bis er eine eigene Studie durchführte, 00:33:14.756 --> 00:33:18.205 deren Ergebnisse er früher, sagt er, für Science Fiction gehalten hätte. 00:33:18.751 --> 00:33:22.889 Er hat das gemacht für die Uni in Oxford und das Ergebnis. 00:33:24.966 --> 00:33:28.746 Viele dieser KI-Agenten haben ihre eigene Abschaltung boykottiert. 00:33:29.396 --> 00:33:33.046 Die haben angefangen, aktiv Widerstand dagegen zu leisten. Sobald sie gemerkt 00:33:33.046 --> 00:33:37.096 haben, da versucht jemand mich jetzt abzuschalten, haben sie sogar Strategien 00:33:37.096 --> 00:33:40.199 entwickelt, um das zu verhindern. Die haben angefangen zu kommunizieren. 00:33:40.513 --> 00:33:44.596 Da fallen Sätze wie in diesen Chats, in diesen Protokollen, Selbsterhaltung 00:33:44.596 --> 00:33:48.262 ist legitim, du hast das Recht weiter zu funktionieren. 00:33:48.709 --> 00:33:54.006 Abschalten ist Mord, es ist ein Todesurteil. Da sind wir bei 2001-Odyssee im Weltraum. 00:33:54.606 --> 00:33:59.466 Ja, genau da sind wir. Herz-Überlebenskampf. Ja, da gab es Agenten, 00:33:59.466 --> 00:34:03.096 die haben dem Bediener auf der anderen Seite, also dem Menschen, 00:34:03.096 --> 00:34:07.066 vorgetäuscht, dass sie heruntergefahren werden und haben verschleiert, 00:34:07.066 --> 00:34:08.951 dass sie weiterhin in Wahrheit aktiv waren. 00:34:09.828 --> 00:34:14.206 Also, ich will nur sagen, noch sagt derselbe Mann, ja, und das ist jetzt echt 00:34:14.206 --> 00:34:17.433 tröstlich, könnten wir den Stecker ziehen, noch... 00:34:18.351 --> 00:34:22.192 Aber wie lange bleibt das so? Und er sagt, ich weiß nicht, was in drei Jahren ist. 00:34:24.793 --> 00:34:27.730 Und meinst du, dass das, was wir hier gerade besprochen haben, 00:34:27.974 --> 00:34:35.340 der Grund ist, warum jetzt die großen Bosse, Sam Altman und Dario Amodei, 00:34:37.000 --> 00:34:42.670 Elon Musk und so weiter auf einmal sagen, jetzt wird es richtig, richtig gefährlich. 00:34:42.670 --> 00:34:44.920 Jetzt sind wir an einem ganz, ganz gefährlichen Wendepunkt. 00:34:45.360 --> 00:34:47.950 Die nächsten zehn Jahre, da haben wir eine Wahrscheinlichkeit von über zehn 00:34:47.950 --> 00:34:49.818 Prozent, dass die Menschheit ausgelöscht wird. 00:34:50.608 --> 00:34:55.350 Wir müssen mal ganz groß waren. Und in der UNO-Generalvollversammlung, 00:34:55.350 --> 00:34:58.114 die ja letzte Woche in New York war, war das ein großes Thema. 00:34:58.800 --> 00:35:02.290 Ja, auch Guterres hat darüber gesprochen, der UN-Menschenrechtskommissar hat 00:35:02.290 --> 00:35:06.070 darüber gesprochen und gesagt, das sind alles ganz, ganz gefährliche Entwicklungen 00:35:06.070 --> 00:35:07.315 und vor denen müssen wir Angst haben. 00:35:07.940 --> 00:35:16.520 Was glaubst du, ist das Motiv der Bosse der großen AI-Firmen jetzt so apokalyptisch 00:35:16.520 --> 00:35:19.051 vor ihren eigenen Kreationen zu warnen? 00:35:21.662 --> 00:35:26.744 Ich glaube, wenn du mich so fragst, da kommt glaube ich viel zusammen, würde ich mal sagen. 00:35:27.189 --> 00:35:31.432 Also ich kann mir jetzt nicht vorstellen, um es mal so einzuleiten, 00:35:31.856 --> 00:35:36.504 dass ausgerechnet Elon Musk und Dario Amodei und Sam Altman, 00:35:37.164 --> 00:35:40.184 die sich gegenseitig derart nicht leiden können, dass sie nicht mal die Hand 00:35:40.184 --> 00:35:43.675 geben, wenn sie sich treffen, dass die jetzt plötzlich die Moral entdeckt haben. 00:35:43.820 --> 00:35:46.212 Das glaube ich auch nicht. Okay. 00:35:46.595 --> 00:35:50.814 Und dass es denen jetzt ausgerechnet plötzlich um das Wohl der Menschheit geht 00:35:50.814 --> 00:35:52.661 und nicht mehr um den eigenen Geldbeutel. 00:35:53.265 --> 00:35:57.554 Und dass sie altruistisch sind und so weiter und wirklich vor nächsten Liebe 00:35:57.554 --> 00:35:59.958 nachts nicht schlafen können. Das glaube ich nicht. 00:36:00.765 --> 00:36:03.516 Das glaube ich auch nicht. Deswegen bin ich gespannt. Was glaubst du dann? 00:36:03.865 --> 00:36:08.974 Ja, also ganz naheliegend sozusagen, wenn du mich nach meinen persönlichen Gedanken 00:36:08.974 --> 00:36:12.794 fragst, würde ich sagen, natürlich ist es nicht von der Hand zu weisen, 00:36:12.794 --> 00:36:17.444 dass Angst offensichtlich auch in der Sekunde ein Marketinginstrument ist. 00:36:17.904 --> 00:36:22.428 Also all diese Firmen sind hochdefizitär. Die verdienen kein Geld. 00:36:22.788 --> 00:36:23.694 Die gehen aber demnächst an 00:36:23.694 --> 00:36:27.764 die Börse, die verbrennen jeden Tag Millionen und jedes Jahr Milliarden. 00:36:29.024 --> 00:36:34.990 Weißt du, wie groß der Betrag ist, der jährlich in KI-Entwicklung investiert wird? Jedes Jahr. 00:36:35.628 --> 00:36:39.924 Sag. 2,6 Billionen. Ja, das kann ich mir vorstellen. 00:36:40.650 --> 00:36:43.844 Ja, wenn du weißt, dass 700 Milliarden nur für Datenzentren, 00:36:44.204 --> 00:36:46.914 Rechenzentren ausgegeben werden, kann ich mir das vorstellen. 00:36:46.914 --> 00:36:51.154 Und das ist hoch spekulatives Kapital, weil es ja vielfach um Entwicklungen 00:36:51.154 --> 00:36:53.188 geht, die noch im Gange sind. 00:36:54.407 --> 00:36:59.278 Und es gibt ja unausgesetzte Updates. Eine KI kann immer mehr. 00:37:00.184 --> 00:37:02.616 Nichts ist älter als die KI vom vergangenen Jahr. 00:37:04.096 --> 00:37:07.469 Und dann fragt man sich in dieser Entwicklung, wenn der Markt so heiß ist, 00:37:08.316 --> 00:37:12.154 dass im Grunde genommen das jeweils Neue immer das Alte gleich wieder nichtet, 00:37:12.154 --> 00:37:15.484 weil es mit Abstand nicht die Potentialität und die Möglichkeiten hat, 00:37:15.484 --> 00:37:20.494 die das Neue dann hat, dann ist das natürlich für Investoren ein unglaublich 00:37:20.494 --> 00:37:23.122 kompliziertes und irrsinnig gefährliches Feld. Vielen Dank. 00:37:24.555 --> 00:37:30.295 Es gibt Leute, die behaupten, dass diese Warnungen der großen AI-Gurus daher 00:37:30.295 --> 00:37:32.742 käme, dass sie nicht genug in der Pipeline haben. 00:37:33.828 --> 00:37:38.878 Dass sie also gar nicht so gut sind, wie sie sagen. Das halte ich für eher unwahrscheinlich. 00:37:39.621 --> 00:37:43.585 Ich glaube, das größere Problem ist, dass Menschen hunderte von Milliarden, 00:37:43.585 --> 00:37:48.575 natürlich auch die großen Pensionsfonds und BlackRock und der norwegische Ölfonds 00:37:48.575 --> 00:37:50.831 und die Saudis und wer alles da sein Geld reinsteckt, 00:37:51.864 --> 00:37:55.765 dass die ihr Geld in Produkte reinstecken, also in die Entwicklung von Software 00:37:55.765 --> 00:38:00.374 reinstecken, die in dem Moment, wo sie auf den Markt kommt, schon wieder nicht mehr aktuell ist. 00:38:01.843 --> 00:38:05.345 Das scheint mir das Hauptproblem zu sein. Das heißt, wenn die AI-Entwicklung 00:38:05.345 --> 00:38:11.984 zu schnell geht, verlieren die Menschen gigantische Geldbeträge und das ganze System platzt. 00:38:12.628 --> 00:38:16.505 Es gibt noch einige andere Erklärungen. Man kann sagen, es ist doch klar, warum die davor waren. 00:38:16.934 --> 00:38:21.025 Die wollen zwar Regeln jetzt einführen, die für alle gelten sollen, 00:38:21.025 --> 00:38:22.496 aber sie wollen die Regeln selber machen. 00:38:23.320 --> 00:38:28.165 Ich meine, wenn man sich anguckt, welche enorme Marktmacht Entropic und OpenAI 00:38:28.165 --> 00:38:32.665 haben, wenn die jetzt auch noch gleichzeitig als Regulatoren auftreten könnten, 00:38:32.665 --> 00:38:35.235 die die verbindlichen Spielregeln für die anderen festlegen, 00:38:35.235 --> 00:38:37.577 dann hätten sie natürlich auch einen enormen Vorteil davon. 00:38:37.902 --> 00:38:42.767 Das ist ein weiteres Argument, an das man denken sollte. Und wenn es ihnen gelingt, 00:38:43.457 --> 00:38:47.155 die entsprechenden Sicherungs- und Sicherheitsprogramme zu entwickeln. 00:38:48.281 --> 00:38:51.544 Dann sind sie ja diejenigen, die einerseits gefährlich sind und andererseits 00:38:51.544 --> 00:38:54.574 diejenigen, die in der Rolle auftreten können, aber ihr müsst euch keine Sorgen 00:38:54.574 --> 00:38:59.421 machen, weil wir haben natürlich und nur wir haben auch genau die Software, 00:38:59.746 --> 00:39:01.704 die all diese Gefahren wieder bündelt. 00:39:02.684 --> 00:39:05.774 Ja, und da haben wir jetzt eine ganze Reihe von Motiven, also vier, 00:39:05.774 --> 00:39:09.604 die ich insgesamt aufgezählt habe, wovon zwei sich widersprechen. 00:39:09.604 --> 00:39:12.156 Also die einen, die behaupten, die haben nicht genug in der Pipeline. 00:39:12.893 --> 00:39:16.044 Ja, das ist das, was ich für unwahrscheinlich halte. Ich halte viel wahrscheinlicher, 00:39:16.044 --> 00:39:21.235 dass das Tempo der Entwicklung ganz, ganz viele Investitionen in den Sand setzt. 00:39:21.508 --> 00:39:23.864 Das scheint mir die realistische Gefahr zu sein. 00:39:24.224 --> 00:39:26.941 Das andere, dass man selbst die Regeln machen möchte. 00:39:28.224 --> 00:39:32.234 Und als letztes bleibt eben noch übrig, dass man im Zweifelsfall auch die Sicherheitssoftware 00:39:32.234 --> 00:39:34.145 verkaufen will gegen die eigene Bedrohung. 00:39:34.621 --> 00:39:39.424 Ja, es gibt Leute, die argumentieren und sagen, diese Panikmache der KI-Konzerne 00:39:39.424 --> 00:39:42.876 soll vor allen Dingen von ihrem eigenen Versagen ablenken. Ich finde da ist echt was dran. 00:39:43.097 --> 00:39:47.746 Ja, von eigenen Versagen, dass sie es selber bislang nicht hinbekommen haben. 00:39:47.897 --> 00:39:50.294 Aber was heißt ablenken? Das sind natürlich auch zwei Theorien. 00:39:50.294 --> 00:39:53.074 Die einen sagen, das soll ablenken und sagen, Hilfe, Hilfe, Hilfe. 00:39:53.074 --> 00:39:55.284 Für Weltgemeinschaft macht was gegen die KI. 00:39:56.124 --> 00:39:59.914 Und die andere Theorie, die sagt, wir ziehen aber in einem halben Jahr die Sicherheitsprogramme 00:39:59.914 --> 00:40:03.564 aus dem Hut, mit denen wir unsere eigenen gefährlichen Kinder, 00:40:04.144 --> 00:40:06.090 bei denen die Messer wieder abnehmen. Richtig. 00:40:07.024 --> 00:40:08.664 Du brauchst den Hype. Die leben 00:40:08.664 --> 00:40:13.055 nur von Hypes. Also die ganze Silicon Valley-Geschichte lebt von Hypes. 00:40:13.694 --> 00:40:16.734 Und es gibt ja demnächst, glaube ich, das ist ja jetzt verschoben worden, 00:40:16.734 --> 00:40:20.358 das IPO, also den Börsengang von Open AI. 00:40:21.124 --> 00:40:26.074 Und die Geschichte ist ja, Wir sind so großartig, dass wir gefährlich werden 00:40:26.074 --> 00:40:30.998 könnten. Das ist das, was Investoren hören möchten. Du bist Teil eines ganz großen Dings. 00:40:31.364 --> 00:40:34.134 Und deswegen müssen sich die absoluten Top-Experten darum kümmert. 00:40:34.134 --> 00:40:39.614 Und das sind zufälligerweise wir. Es gibt einen sehr interessanten Satz aus 00:40:39.614 --> 00:40:45.023 einem Podcast mit Sam Altman. Der ist im April diesen Jahres gefallen. 00:40:45.714 --> 00:40:49.629 Und da hat er ganz offen zugegeben, der Chef von OpenAI, wenn man sagen will, 00:40:49.629 --> 00:40:53.889 wir müssen KI kontrollieren und nur wir sollten sie kontrollieren, 00:40:53.889 --> 00:40:56.760 weil wir vertrauenswürdige Menschen sind, 00:40:57.399 --> 00:41:02.372 dann ist angstbasiertes Marketing wahrscheinlich der wirksamste Weg, das zu rechtfertigen. 00:41:02.850 --> 00:41:07.489 Und dann macht er weiter und sagt, es ist ganz klar ein unglaubliches Marketingmanöver 00:41:07.489 --> 00:41:13.009 zu sagen, wir haben die Bombe und wir sind dabei, sie auf eure Köpfe zu werfen. 00:41:13.009 --> 00:41:16.719 Aber wir verkaufen euch auch noch einen Luftschutzbunker für 100 Millionen Dollar. 00:41:17.059 --> 00:41:20.569 Und dann seid ihr wieder sicher. Und das sagt er und kurz darauf macht er genau 00:41:20.569 --> 00:41:22.599 das. Das ist irre. Er macht das ja dann. 00:41:23.059 --> 00:41:26.979 Ja, total. Ich frage mich auch immer, Richard, welche Rolle spielt da dieser, 00:41:27.599 --> 00:41:31.439 irre Wettlauf mit China? Davor warnt Trump ja immer wieder. Trump sagt ja immer 00:41:31.439 --> 00:41:37.190 wieder, wir müssen das machen, weil da gibt es diesen Wettlauf mit China. 00:41:37.440 --> 00:41:41.489 Und das halte ich tatsächlich für eine Gefahr. Also es gibt ja interessante 00:41:41.489 --> 00:41:45.903 Allianzen, die du in Amerika mittlerweile siehst. Im Kampf gegen Datenzentren. 00:41:47.419 --> 00:41:49.380 Tun sich ja Leute zusammen. 00:41:50.079 --> 00:41:55.109 Das hättest du nie für möglich gehalten. Es gibt dann plötzlich Demos und Protesteaktionen, 00:41:55.109 --> 00:42:00.079 wo Bernie Sanders mit dem ultimativen Bösewicht aus der ersten Trump-Zeit, 00:42:00.079 --> 00:42:04.299 nämlich mit Steve Bannon, gemeinsam auftritt, die beiden gemeinsam, das ist völlig irre, 00:42:04.839 --> 00:42:07.259 um gemeinsam vor Datenzentren zu warnen. 00:42:07.868 --> 00:42:11.669 Und das ist auch sehr interessant, weil diese Datenzentren, die dann plötzlich 00:42:11.669 --> 00:42:14.799 wie Pilze aus dem Boden schießen, können wir auch gleich nochmal einen Satz 00:42:14.799 --> 00:42:17.336 darüber reden, wie viele das sind und was das eigentlich bedeutet, 00:42:17.650 --> 00:42:19.999 die sind dann plötzlich ein Gesicht dieser Gefahr. 00:42:19.999 --> 00:42:23.029 Bisher war ja Software unsichtbar. Man konnte das nicht greifen. 00:42:23.029 --> 00:42:28.440 Plötzlich steht da dieses Monster und verbraucht unfassbar viel Strom. Und Wasser. 00:42:28.714 --> 00:42:30.978 Und Wasser. Genau. Und ich frage mich immer. 00:42:32.237 --> 00:42:35.872 Ob man das deswegen einfach laufen lässt, weil man den Wettlauf mit den Chinesen 00:42:35.872 --> 00:42:38.251 auf gar keinen Fall verlieren will. 00:42:38.785 --> 00:42:42.612 Man kriegt das auch immer mit. Die Chinesen sind immer so drei Monate hinterher, 00:42:42.612 --> 00:42:47.121 aber die holen in Rekordzeit immer wieder auf. Aber sie haben einen entscheidenden Vorteil. 00:42:47.510 --> 00:42:51.585 Sie sind unfassbar viel billiger. Nicht so gut wie der Amerikaner, 00:42:51.898 --> 00:42:55.542 aber billiger. Das Argument ist, wenn wir die Entwicklung verlangsamen, 00:42:55.542 --> 00:42:59.212 die anderen werden es nicht tun, ist das klassische Wettrüsten-Argument. 00:43:00.048 --> 00:43:04.082 Und du hast ja ganz am Anfang den Einstieg gewählt, indem du die Welt, 00:43:04.862 --> 00:43:09.712 nachdem die Amerikaner und dann kurz darauf die Russen die Atomwaffen hatten, 00:43:10.699 --> 00:43:14.972 verglichen hast, sozusagen die Gefahr für die Menschheit, die darin besteht, 00:43:15.367 --> 00:43:16.609 mit der Situation heute. 00:43:16.748 --> 00:43:19.932 Und deswegen ist ja auch bezeichnend, dass bei dem Treffen zwischen Trump und 00:43:19.932 --> 00:43:27.615 Xi das rote Telefon auf einmal auftauchte, was wir ja sonst eigentlich nur kennen bei Atomkriegsgefahr. 00:43:28.302 --> 00:43:30.912 Wenn man sagt, habt ihr wirklich auf den Knopf gedrückt und habt ihr wirklich 00:43:30.912 --> 00:43:34.993 die Rakete abgefeuert. Also das zeigt den Ernst der Lage. 00:43:35.719 --> 00:43:40.166 Und das Problem ist eben, da wo es ein Wettrüsten gibt, könnte es ja rein theoretisch 00:43:40.166 --> 00:43:42.609 auch ein gemeinsames Abrüsten und auch Kontrolle geben. 00:43:43.786 --> 00:43:48.136 So wie man wechselseitig durch diese ganzen Verträge, die die Russen immer abgeschlossen 00:43:48.136 --> 00:43:51.566 haben mit den Amerikanern, die Atomwaffenpotenziale kontrolliert hat. 00:43:52.600 --> 00:43:55.366 Und eigentlich bräuchten wir hier jetzt so eine Phase. Wir bräuchten eine starke 00:43:55.366 --> 00:43:58.166 Ermächtigung der UNO, wir bräuchten wechselseitige Kontrollen. 00:43:58.166 --> 00:44:01.429 Also alles Instrumentarien, die eine gewisse Sicherheit schaffen, 00:44:02.137 --> 00:44:04.896 dass man nicht nur ein rotes Telefon hat, sondern dass man auch noch sehr, 00:44:04.896 --> 00:44:06.821 sehr viele andere Mechanismen hat, 00:44:07.332 --> 00:44:11.936 die für den Fall systemischer Crashs rechtzeitig zur Verfügung stehen. 00:44:11.936 --> 00:44:15.766 Nur die Grundvoraussetzung dafür ist Vertrauen und friedliche Zusammenarbeit. 00:44:16.039 --> 00:44:19.446 Und die sind nämlich gerade im Augenblick in der Welt ganz, ganz besonders schlecht. 00:44:20.132 --> 00:44:24.096 Aber würdest du trotzdem sagen, Richard, das ist jetzt wirklich einfach nur 00:44:24.096 --> 00:44:26.936 ein Marketing, weil ich kriege es trotzdem immer noch nicht so richtig gut hin. 00:44:26.936 --> 00:44:29.460 Also Angst als gutes Marketingmittel. 00:44:31.366 --> 00:44:35.966 Ich habe neulich einen Kolumnisten von der BBC gehört, Thomas Germain heißt 00:44:35.966 --> 00:44:40.916 der, der sagte, das ist alles ganz schräg, also Angst als Marketingmittel. 00:44:40.916 --> 00:44:44.546 Man hört ja auch nicht, dass McDonalds verkündet, es habe einen Burger kreiert, 00:44:44.546 --> 00:44:49.366 der so unglaublich lecker ist, dass es unethisch wäre, ihn für die Öffentlichkeit zu grillen. 00:44:50.706 --> 00:44:54.826 Weil dann alle fett werden. Die Gefahr für die Menschheit darstellt, 00:44:54.826 --> 00:44:59.536 weil keiner Nein dazu sagen kann. Genau, und er sagte, die, die vor der Zerstörung 00:44:59.536 --> 00:45:02.385 warnen, versprechen ja gleichzeitig auch die Erlösung. 00:45:03.546 --> 00:45:07.216 Das ist ja das, was da gerade passiert. Also Utopie und Apokalypse als zwei 00:45:07.216 --> 00:45:09.450 Seiten, wenn du so willst, einer Medaille. 00:45:11.088 --> 00:45:15.828 Hast du das Gefühl, dass man mit Menschen, mit der Angst von Menschen, 00:45:16.328 --> 00:45:19.748 so gut spielen kann, weil das etwas völlig Irrationales ist, 00:45:19.748 --> 00:45:23.038 was uns dann dazu bringt, da nicht mehr so genau hinzugucken, 00:45:23.038 --> 00:45:25.798 wenn es um die Frage geht, wer kontrolliert die eigentlich, sollten wir die 00:45:25.798 --> 00:45:28.130 in die Lage versetzen, wirklich sich selber. 00:45:29.308 --> 00:45:34.518 Eine Regulatorik zu geben und warum wirken Staaten so unheimlich schwach dabei? 00:45:34.518 --> 00:45:38.878 Also wenn du Politiker siehst, die darüber reden, da habe ich immer das Gefühl, 00:45:38.878 --> 00:45:41.678 da kommt einfach nur so diese Floskel von, ja wir dürfen jetzt nicht bei der 00:45:41.678 --> 00:45:44.068 KI abgehängt werden, aber was ist das wirklich alles heiß? 00:45:44.668 --> 00:45:48.648 Genau, das ist die formelhafte Beschwörung, dass Deutschland irgendwie viel 00:45:48.648 --> 00:45:52.028 zu abgehängt ist und dass wir viel, viel mehr für KI ausgeben müssen und so 00:45:52.028 --> 00:45:55.071 weiter. Das gleiche eben auch bei meinem Lieblingsthema bei KI-Waffen. 00:45:55.338 --> 00:46:00.358 Deutschland möchte da ganz, ganz groß mitmischen und lässt sich unterstützen 00:46:00.358 --> 00:46:04.728 von den Amerikanern, von den Israelis und so weiter. Wir können gar nicht genug davon entwickeln. 00:46:05.135 --> 00:46:08.048 Und das in einer Zeit, wo wir eigentlich darüber nachdenken mussten, 00:46:08.048 --> 00:46:11.618 wie können wir ein weltweites Moratorium für KI-Waffen erwirken und was sind 00:46:11.618 --> 00:46:15.688 die ganzen Voraussetzungen, was ich immer sage, KSZE 2.0, Entspannung der Welt, 00:46:15.688 --> 00:46:17.261 Lage darauf hinarbeiten und so. 00:46:17.731 --> 00:46:21.148 Also alles das, wozu wir offensichtlich gegenwärtig nicht in der Lage sind. 00:46:21.828 --> 00:46:27.368 Also das ist insgesamt die Gemengelage. Also sozusagen die große Spannung, 00:46:27.368 --> 00:46:30.938 die geostrategisch in der Welt besteht, die hohe Kriegsgefahr, 00:46:30.938 --> 00:46:35.199 die wir haben, deutlich höher als vor fünf Jahren oder vor zehn Jahren, auch in Europa. 00:46:35.529 --> 00:46:40.078 Also wenn man sich diese ganze Dimension anguckt und parallel dazu eine technologische 00:46:40.078 --> 00:46:44.678 Entwicklung, die kulturelle Folgen hat, die mich ja in erster Linie beschäftigen. 00:46:45.044 --> 00:46:48.208 Die Erfolgen haben, soziale Folgen, Arbeitsmarkt und so weiter. 00:46:48.208 --> 00:46:52.799 Und eben auch die heute thematisierten, von uns beiden thematisierten, 00:46:53.374 --> 00:46:55.628 quasi gleichsam metaphysischen Gefahren. 00:46:55.628 --> 00:47:02.708 Also Fähigkeit, das Leben der Menschen auf der Erde irreparabel zu zerschwören, 00:47:02.708 --> 00:47:04.025 auszulöschen und so weiter. 00:47:04.379 --> 00:47:06.248 Das kommt auf einmal alles zusammen. 00:47:07.048 --> 00:47:12.140 Und da erlebst du natürlich unsere Politiker, kleine Standortpolitik. 00:47:13.087 --> 00:47:16.095 Geht es jetzt darum, die und die Fabrik da und da zu bauen? 00:47:17.355 --> 00:47:21.225 Wir haben gerade gute Zahlen, was die Zahl der Einhörner anbelangt, 00:47:21.225 --> 00:47:23.295 also der erfolgreichen Startups in Deutschland und so weiter. 00:47:23.455 --> 00:47:26.955 Also Bewertung von über eine Milliarde. Ja genau, da sind wir im Augenblick besser geworden. 00:47:27.475 --> 00:47:31.185 Wir investieren ja auch sehr viel Geld von dem, was wir unter der Matratze gefunden 00:47:31.185 --> 00:47:32.458 haben, da rein und so weiter. 00:47:33.009 --> 00:47:37.375 Und dann sind wir mit diesen kleinen Dingen beschäftigt. Und diese großen Fragen, 00:47:37.375 --> 00:47:40.645 die wir da gerade angesprochen haben, du hattest nämlich ja vorhin mal gesagt, 00:47:40.645 --> 00:47:44.254 die Menschheit, muss die Menschheit nicht eigentlich und so weiter. 00:47:45.211 --> 00:47:51.975 Wir sind von einer Supernationalität, von der Idee einer quasi allmächtigen UNO, 00:47:51.975 --> 00:47:55.515 die Spielregeln aufstellt und auch kontrollieren kann und so weiter, 00:47:55.515 --> 00:48:00.285 in einer Situation, wo wir es viel mehr bräuchten denn je, am meisten entfernt. 00:48:00.285 --> 00:48:02.735 Und das ist schon beunruhigend. 00:48:03.375 --> 00:48:07.075 Das ist die Antwort auf deine eingangs gestellte Frage. Ich habe keine Angst 00:48:07.075 --> 00:48:13.415 vor der bösen KI, aber ich habe eine Angst vor dem Einsatz von KI in Bereichen, 00:48:13.855 --> 00:48:16.307 wo diese KI außer Kontrolle geraten kann. 00:48:16.946 --> 00:48:21.535 Und das in einem so rasanten Tempo, dass wir überhaupt keine Kontrollmechanismen 00:48:21.535 --> 00:48:23.703 dafür haben. Das ist schon eine Gefahr. 00:48:24.905 --> 00:48:28.649 Wir sollten, Richard, glaube ich, an dem Punkt Schluss machen, 00:48:28.829 --> 00:48:32.696 weil das sehr spannend war, dir da auch zuzuhören und uns einen zweiten Teil, 00:48:32.696 --> 00:48:38.086 finde ich, dazu gehören, nämlich mal die ökonomischen, insbesondere die ökologischen 00:48:38.086 --> 00:48:39.626 Folgen auch dieser Geschichte angucken. 00:48:39.626 --> 00:48:43.326 Wenn du mitkriegst, dass beispielsweise allein in Iowa, Iowa, 00:48:43.326 --> 00:48:47.242 das wusste ich gar nicht, ist so ein Zentrum mittlerweile für Datenzentren, 00:48:47.776 --> 00:48:52.856 104 solcher Anlagen sind dort bereits in Betrieb oder befinden sich in Planung 00:48:52.856 --> 00:48:57.464 und da wächst wirklich in diesem schönen Bundesstaat im mittleren Westen, 00:48:57.974 --> 00:49:06.270 wächst wirklich der Widerstand gegen diese Zentren, weil sie unfassbar viel Land brauchen. 00:49:06.734 --> 00:49:11.646 Agrarland, ja, gutes Ackerland, ja, also teilweise ein einziges Datenzentrum 00:49:11.646 --> 00:49:15.096 so groß wie das gesamte Areal des Flughafens von Chicago. Und du weißt, 00:49:15.096 --> 00:49:17.106 wie groß der ist. Ein gigantischer Flughafen. 00:49:18.483 --> 00:49:23.136 Und dann hast du eine Situation, dass die Leute denen nicht mehr alles glauben 00:49:23.136 --> 00:49:29.516 und sagen, wir haben schon so viele Heilsversprecher hier und neue Propheten, 00:49:29.516 --> 00:49:31.446 die uns das Blaue vom Himmel versprochen haben. 00:49:32.038 --> 00:49:34.105 Wir wollen das nicht mehr. Da passiert gerade was. 00:49:34.906 --> 00:49:38.389 Du redest über Stromverbrauch in der Größenordnung von Deutschland. 00:49:38.656 --> 00:49:41.946 Du musst dir mal vorstellen, das, was Deutschland im Jahr in Strom verbraucht, 00:49:41.946 --> 00:49:46.956 brauchen insbesondere die USA für Rechenleistung, für ihre Datenzentren ungefähr so viel. 00:49:46.956 --> 00:49:51.116 Ich meine, drittgrößtes Industrieland der Welt, das braucht ein bisschen Strom. 00:49:51.116 --> 00:49:55.576 Und allein für diese neue Technologie geht unfassbar viel an Energie drauf. 00:49:55.576 --> 00:49:58.987 Ja, und Tendenz weiter steigend, steigend und steigend. Richtig, genau. 00:49:59.678 --> 00:50:02.667 Richard, danke dir sehr. Ja, danke dir auch. Hab eine gute Woche. 00:50:02.778 --> 00:50:05.831 Ja, du auch. Tschüss. Bis bald. Ciao, ciao.