Schönen guten Morgen, Richard. Guten Morgen, Markus. So, Richard,
Sommer, Ferien stehen, ein bisschen Urlaub steht vor der Tür.
Ich finde es herrlich. Warst du wieder, das ist eine Frage, die die halbe Nation
bewegt, warst du wieder mit Lutz unterwegs? Du erinnerst dich, who the fuck is Lutz?
Wer zum Geier ist Lutz? War die Abwandlung davon. Großartige Geschichte.
Du mit deinem, das ist dein ältester Freund, ne, Lutz? Ja, das ist mein ältester
Freund. Wir haben früher zusammen gewohnt in Studentenzeiten und wir haben uns
kennengelernt kurz nach einem Abitur. Ihr seid ja immer eine Woche im Jahr unterwegs, ne?
Wir waren jetzt gerade wieder, ich bin gerade eben nach Hause gekommen,
wir waren in Frankreich unterwegs, diesmal allerdings mit sehr geringer Geierausbeute.
Wir hatten ein paar andere Schwerpunkte auf den Urlaub gelegt.
Wir waren im Sancerre und im Jura und wir waren in Lyon. Was habt ihr da gemacht?
Wir haben es uns gut gehen lassen. Wir haben viel Schach gespielt und wir haben
die kulinarischen Genüsse veröffentlicht.
Und reingezogen und wir waren auch ein bisschen anderen. Ist das die Umschreibung
für, wir haben sehr viel getrunken?
Nee, nicht so ganz, ganz übermäßig viel. Aber diverse Weine ausprobiert, sagen wir mal so.
Genuss trinken. Wie wirst du eigentlich, wenn du betrunken bist?
Bist du dann sehr lustig oder wirst du einfach nur müde oder wirst du eher so
aggressiv? Beides. Also entweder das eine oder das andere.
Also entweder ich werde in der Tat heiter und höre da nicht mehr auf zu reden,
was ja nicht auch anstrengend ist. Kenne ich ja sonst gar nicht von dir.
Oder schlagartiges Verstummen und Ermüden, genau. Also es gibt mich ja nur in
den beiden Extremzuständen. Herrlich.
Richard, ich wollte mit dir heute über etwas sprechen, was mich seit einigen Wochen beschäftigt.
Als sehr regelmäßiger Zuschauer unserer Sendung weißt du ja,
dass wir eigentlich mindestens einmal pro Woche einen Spitzenpolitiker da sitzen
haben, der von der glorreichen Zukunft mit KI schwärmt.
Und egal wen du fragst, du spürst ja ganz Deutschland ist auf der Suche nach einem neuen,
Wohlstandsmodell, so muss man sagen, das alte Modell funktioniert nicht mehr,
das hat viele Gründe und das ist jetzt gar nicht die Schuld von Leuten in politischer
Verantwortung, sondern haben
sich einfach Dinge überlebt und die Zeit ist über sie hinweggegangen.
Was mich stutzig macht, was mich misstrauisch macht, ist dieser fast schon naive
Glaube, jetzt kommt KI und dann wird alles gut Und ich will dir sagen,
seit wann mich das so stutzig macht.
Du erinnerst dich an unser Gespräch aus den USA, aus Florida.
Da habe ich dir doch von James Fishbeck erzählt, von diesem harten, jungen Republikaner.
Kolumbianischer Abstammung, der den größten Applaus bekommen hat,
als er sagte, ich baue keine neuen Datenzentren in Florida.
Ich beobachte das seitdem ein bisschen genauer und merke, der nächste amerikanische
Wahlkampf könnte tatsächlich darauf hinauslaufen,
Dass der Politiker, der verspricht, die Bevölkerung vor KI zu schützen,
KI fernzuhalten, am Ende das Rennen macht, ist eine steile These,
weiß ich, was man in jedem Fall sagen kann.
Der große KI-Boom, die große KI-Euphorie, auch wenn man es an den Börsen noch
nicht sieht, aber die große Euphorie ist komplett vorbei.
Hier ist das noch nicht angekommen. Bei uns geht das antizyklisch genau da los,
wo es woanders wieder ein bisschen runtergeht.
Richtig. Und ich höre, dass zum Beispiel auch jemand wie Ulrich Sigmund,
der AfD-Kandidat in Sachsen-Anhalt, der verspricht genau das und sagt,
wir werden große Rechenzentren machen.
Aber auch da formiert sich Widerstand.
Deswegen die Frage an dich, Richard. Wie denkst du darüber? Ich weiß,
dass du sehr viel darüber nachdenkst.
Ist möglicherweise KI schon am Ende, bevor es richtig begonnen hat? Was passiert da gerade?
Ja, am Ende ist es sicher nicht. Aber es ist natürlich sehr interessant,
dass du jetzt hier lauter Aspekte aufwirfst, über die wir in der Öffentlichkeit
eigentlich gar nicht diskutieren.
Also das war so ähnlich, ich kann es dir nicht erinnern, irgendwann hieß es
mal Startups sind die große Lösung und dann machten alle Startups und jede Stadt
versuchte die andere als Startup-Highlight und so weiter zu überbieten.
Und das alles zu einem Zeitpunkt, als man sagen kann, war ja schon ziemlich, ziemlich sehr spät.
Das heißt also die Startups, die da zu großen Einhörnern geworden sind,
die meisten von denen, die gab es vorher.
Und wir Deutschen fangen immer an, dann ganz begeistert von etwas zu sein,
wenn das woanders funktioniert hat. Und das ist dann meistens die Zeit,
wo es dann bei uns vielleicht dann nicht mehr ganz so in dem großen Maßstab funktioniert.
Also wir sind da relativ spät auf dem Zug. Ich glaube, das kann man auf jeden Fall sagen.
Das andere ist, dass KI und das, ich meine, ich habe jetzt gerade mein viertes
Buch zu dem Thema geschrieben, also über Digitalisierung und über KI und mache es gerade fertig.
Dass das eine so grundsätzliche Umwälzung unserer Gesellschaft bedeutet,
über die wir nicht reden.
Also wir reden vom wirtschaftlichen Erfolg, aber wir reden viel zu wenig,
was es sonst alles macht.
Und das führt dazu, wenn man diese Dinge nicht thematisiert,
dass die Leute davor anfangen, Phobien oder Ängste oder Panik zu entwickeln.
Und das wiederum nutzt natürlich denjenigen, die diese Ängste auffangen.
Das heißt, wir denken über einen solchen gigantischen Umbruch wie das zweite
Maschinenzeitalter, wo also jetzt nicht mehr in erster Linie Fähigkeiten der
menschlichen Hand ersetzt werden, sondern Fähigkeiten des menschlichen Gehirns.
So nach, als wäre das jetzt, ging es jetzt nur darum, technologisch auf der
Höhe der Zeit zu sein oder am besten noch irgendwie erfolgreich damit zu mischen.
Wir denken aber nie darüber nach, was das wirklich mit der Gesellschaft macht.
Und dafür gibt es so ein paar Standardsätze. Ein Standardsatz ist immer,
im Mittelpunkt muss der Mensch stehen.
Das wird seit sehr, sehr vielen Jahren gesagt. Ist keiner gegen,
bin ich auch für. Ich möchte immer genau wissen, wie ist denn das gemeint?
Beste Witz dazu ist immer autonomes Fahren. Das ist ein Begriff,
den du nicht benutzen darfst, wenn du meinst, im Mittelpunkt soll der Mensch
stehen, weil die Menschen sind bislang autonom gefahren.
Und wenn sie dann in selbstfahrenden Autos sitzen, fahren sie Herthaunum.
Dann werden sie gefahren.
Das heißt also genau die Autonomie ist das, was ja dann aus Sicht des Menschen abnimmt.
Ich bin ja, wie du weißt, für selbstfahrende Fahrzeuge, wenn ich auch ein bisschen
skeptischer bin, ob das jetzt den ganz großen globalen Siegeszug geben wird.
Ich habe dringesessen, weißt du ja. Ja, ich weiß.
Aber schon der Begriff zeigt, dass wir die gesamte Entwicklung überhaupt nicht
von Menschen aus denken.
Sondern wir denken sie immer von der Technik aus. Und dann entstehen natürlich
bei vielen Menschen Ängste und ich habe mir immer viel Mühe gegeben,
die Ängste, die ich für berechtigt halte, von denen zu trennen,
die ich für unberechtigt halte.
Richtig ist aber, dass wir als Gesellschaft über diese gewaltigen Umbrüche,
die damit kommen, überhaupt nicht vorbereitet sind.
Und dann passiert das, was du gerade beschrieben hast. Die kann man natürlich
dann aufgreifen und nutzbar machen.
Indem man den Leuten verspricht, das wird bei uns nicht gemacht und davor schützen wir dich und so weiter.
Weil du das gerade so schön erzählt hast, Richard, mit diesen Floskeln,
der Mensch muss im Mittelpunkt stehen.
Es gibt diesbezüglich noch eine andere schöne Floskel, die mir gerade einfällt.
Kernfusion ist die Technologie der Zukunft. Das ist die Stromquelle der Zukunft.
Und ich denke immer, wenn ich das höre, das ist richtig, das war schon immer
die Stromquelle der Zukunft.
Und es wird immer die Stromquelle der Zukunft bleiben, weil es nie passieren
wäre, zumindest nicht in absehbarer Zeit.
Manche denken das gleiche über die Revolution durch den Quantenrechner. Zum Beispiel.
Das ist auch eine Revolution, die wird jetzt seit einigen Jahren angekündigt.
Die ist aus deutscher Perspektive sehr wichtig.
Weil wir sind natürlich in der gesamten Grundlagenforschung,
jetzt auch in der Entwicklung, langsam Entwicklung von Geschäftsmodellen.
Da ist Deutschland gut. Und deswegen sitzt natürlich ganz viel Hoffnung darin.
Das ganz große Problem, was dann entstehen wird, ist, wenn wir tatsächlich solche
super, super, super Rechner haben, mit unfassbarer Geschwindigkeit und gigantischen
Kapazitäten, dann verbrauchen die eine Energie, die der Welt gegenwärtig nicht zur Verfügung steht.
Richtig. Das heißt, es gibt manchmal eine Asymmetrie zwischen tollen technischen
Entwicklungen und deren realistische Implementierungsmöglichkeiten.
Das ist übrigens total interessant, weil du es gerade sagst.
Wenn man sagt, der Mensch muss im Mittelpunkt stehen, dann ist das wirklich,
wenn ich mal gerade richtig darüber nachdenke, eine unfassbare Floskel,
die man mit wenigen Argumenten komplett auseinandernehmen kann.
Wenn es dir ernst ist als Politiker mit dem Satz, der Mensch muss im Mittelpunkt
stehen, dann wäre eigentlich die Konsequenz daraus zu sagen,
weißt du was, dann dürfen wir KI...
Streckstrich Rechenzentren, da dürfen wir das gar nicht machen,
weil der Energiehunger so gigantisch ist, dass er mittlerweile die Kosten für
die Gesellschaft enorm nach oben treibt. Ich habe neulich Satya Nadella zugehört,
das ist der Microsoft-CEO.
Der was ganz Interessantes sagte. Er sagte, wenn wir als KI-Industrie nicht
bald in der Lage sind, etwas abzuliefern, was.
Den gesellschaftlichen Nutzen für die KI wirklich dann klar macht und messbar
macht, dann werden wir keine Zukunft haben, weil dann wird die Gesellschaft
anfangen, uns unangenehme Fragen zu stellen.
Nämlich zu fragen, warum zum Teufel sollten wir das weiter gut finden,
wenn es die Wasserkosten und die Energiekosten so nach oben treibt und wir alle
haben höhere Strom und höhere Wasserpreise für eure komische Technologie,
die uns jetzt gerade nicht weiterbringt.
Das ist eines der Themen, das da mitschwingt, wenn man da in Amerika zuhört.
Aber das andere Thema ist, Richard, die Frage, wenn wir jetzt sagen,
da gibt es eine Stimmung, die da lautet, wir machen möglicherweise den nächsten
Wahlkampf mit dem Versprechen, wir schützen euch vor KI.
Und das ausgerechnet in Amerika, in einem Land dessen, ich bin kein Ökonom,
aber ich rede viel mit Ökonomen und die sagen mir immer, das Wirtschaftswachstum
in Amerika im Moment ist KI getrieben.
Diese zweieinhalb, drei Prozent, die die hinkriegen, das kommt bei normalen
Menschen gar nicht an, sondern das kommt eigentlich nur durch diese gigantische
KI-Industrie, die traumhafte Renditen einfährt.
Ja, und vor allem an den Börsen. Das ist ja eine Ankündigungsdisziplin,
wie du vorhin gesagt hast.
Und das führt natürlich dazu, dass unglaubliches Geld, also wir reden ja über
Billionenbeträge, da rein investiert werden in Geschäftsmodelle,
die zum Teil eben noch nicht fertig, nicht entwickelt sind und so,
weil so sehr, sehr viel was angekündigt ist.
Und da wird es mit Sicherheit eine Marktbereinigung geben.
Das werden also nicht alle, die da ihr Geld und alle Firmen,
die da irgendwo groß eingestiegen sind, das wird sich nicht bei allen rentieren, bei einigen ja.
Also KI geht nicht weg. KI wird bleiben. KI wird eine riesige Rolle in unserem
Leben spielen, in unseren Wirtschaftskreisläufen.
Aber es entsteht gleichwohl eine Blase, wenn auf zu viele Ankündigungen quasi
gleichzeitig gewettet wird. Und das ist im Augenblick der Fall.
Darüber sollten wir auch gleich nochmal sprechen, dieses aggressive Marketing,
das wir auch alle jeden Tag erleben und das wir als Medien zum Teil total unkritisch übernehmen.
Aber ich würde dich gerne vorab noch was anderes fragen, weil mir scheint,
dass das eigentlich das Thema ist, um das es geht.
Es gab vor einiger Zeit, ich glaube irgendwo in Arizona, Universität,
Absolventen, sitzen alle da und Abschlusskundgebung, großes Abschlussfest.
Und oben steht Eric Schmidt, der ehemalige CEO von Google.
Selber zigfacher Milliardär, investiert in Verteidigung mittlerweile,
also Defense, wie es ja heute heißt, investiert in KI-Unternehmen und so weiter.
Und der fängt dort an auf der Bühne, die glorreiche, die goldene KI-Zukunft zu malen.
Und jetzt sitzen da unten lauter junge Menschen und was dann passiert ist verblüffend.
Die fangen an zu pfeifen und zu buhen und geben ihm sehr klar zu verstehen,
das, was du da gerade erzählst, glauben wir dir erstens nicht und wollen wir zweitens nicht.
Das fand ich interessant, weil die Leute, die bei mir sitzen,
sind ja in der Regel schon ein bisschen älter, so mein Semester dann.
Und ich wäre auch jemand, der sagt, erstmal finde ich das faszinierende Technologie,
aber offenbar verstehen diese jungen Leute und nicht nur die sehr genau,
welche Bedrohung das für die werden könnte. Warum?
Ich glaube, dass das Bewusstsein dafür tatsächlich da ist auf ganz vielen verschiedenen
Ebenen, das einem klar macht, dass es sich um einen gesellschaftlichen Umbruch
handelt und nicht einfach nur um eine technologische Entwicklung.
So jetzt kann man ja sagen, wer gegen KI ist, erinnert so ein bisschen an die
Luditen, die Maschinenstürmer, die angefangen haben, als damals die,
Textilmanufakturen ersetzt wurden durch mechanische Webstühle und dann sehr
viele Weber haben ihre Arbeit verloren und viele Leute in der Textilfabrikation waren Baumwolle.
Und dann gesagt, es war natürlich sinnlos, sie haben versucht,
die Zeit aufzuhalten. Die Zeit ist, wie wir wissen, weitergegangen und sehr
viel harte körperliche Arbeit wird heute nicht mehr gemacht.
Trotzdem hatten die Weber ja in ihrer Zeit alle Berechtigung der Welt,
diesen Aufstand zu machen und die Maschinenstürmer. Weil tatsächlich.
Es gab kein Sozialsystem, das totale Elend aus.
Das hat es ja wirklich gegeben. In welchem Jahr sind wir da jetzt,
Richard? Wir reden über den Anfang des 19. Jahrhunderts. Also wir reden so über
1800, 820, 1830 über diese Zeit.
Und die Aufstände, die es damals gegeben hat, waren deswegen berechtigt,
weil es tatsächlich ganz vielen Leuten erstmal schlechter ging.
Und wenn man dann in so einer, wo es Spinnmaschinen gab, in solchen Fabriken
gearbeitet hat, da war man im Durchschnittsalter mit 35 Jahren tot.
Die haben ganze Waisenhäuser geplündert, um Arbeitskräfte zu kriegen,
die sie verheizt haben, die kaum erwachsen geworden sind.
Also es war ja auch eine ganz, ganz gruselige Zeit. Langfristig gesehen war
das ein Schritt in eine segensreiche Entwicklung.
Aber in dem Moment für die Betroffenen war es das nicht. Und deswegen ist ja
klar, dass in Ländern, wo die Leute wählen können, der eine oder andere dann
seine berechtigte Angst davor hat.
Also wenn man sich das Automatisierungspotenzial durch künstliche Intelligenz
anguckt, dann stellt man sich die Frage, wie viel Prozent der Leute,
die heute in Verwaltungen arbeiten, Zum Beispiel müssten da noch arbeiten, jetzt schon,
oder erst recht in 10 oder in 20 Jahren.
Jetzt kann man sagen, ja, ist ja schön, wenn die Menschen keine langweilige
geistige Routinearbeit mehr machen wollen. Ich weiß nicht, ob jeder Verwaltungsangestellte
das so empfindet, aber einige werden das so empfinden. Nur was machen die denn stattdessen?
Wenn es jetzt schöne Aufstiegsmöglichkeiten stattdessen gäbe,
dass man sagt, ja, da machst du was Kreatives und so weiter.
Wir wissen ja gerade im Kreativitätsbereich auf den unteren Ebenen,
da ist der Siegeszug der KI schon viel fortgeschrittener als bei der geistigen Routinearbeit.
Also ganz, ganz viel wird da auch wegfallen. Und die Frage ist, ob der soziale Aufstieg,
eigentlich im KI-Zeitalter dauerhaft noch möglich sein wird.
Dieses langsam sich durch die Mitte etwas weiter nach oben arbeiten,
wenn genau in diesem mittleren Bereich der Berufe eben ganz, ganz viel wegfällt.
Für junge Leute jetzt schon spürbar. Wenn man ein junger Jurist ist,
der von der Uni kommt, und man, der ist jetzt nicht der absolute Überflieger
gewesen, sondern ein ganz normaler Jurist, hat man ja früher in der Anwaltskanzlei
als Associate gearbeitet, die werden eigentlich nicht mehr gebraucht.
Und das ist der Anfang einer Entwicklung, von der abzusehen ist,
dass sie sich enorm noch zunehmen wird, dass sie sehr viel stärker werden wird.
Und Politik hat natürlich nur Antworten darauf.
Sie argumentieren ja zu Recht. Wir können ja nicht aussteigen.
Wir können ja nicht als Deutschland sagen, wir werden hier KI-freie Zone.
Es gibt ja gar keine Möglichkeit, aus diesem Wettlauf auszusteigen.
Aber man müsste einen enormen Gehirnschmalz darauf verwenden.
Umbau der sozialen Sicherungssysteme und so weiter. damit das Ganze funktioniert
und nicht ins Chaos führt. Und ich glaube, über diese gesellschaftlichen Folgen
denken wir viel zu wenig.
Das meine ich. Das zweite Argument, das gerade das beliebteste,
für mich teilweise fast schon Totschlagsargument ist, ist Demografie.
Sagt man ja, wir haben ja eh diesen Fachkräftemangel und so weiter.
Das wird alles wunderbar, aber die Leute werden nicht mehr arbeitslos. Die gehen ja in Rente.
Aber dieses Thema, das du gerade beschrieben hast, Richard, lass mich das nochmal so zusammenfassen.
Es erwischt jetzt die, die immer dachten, sie sind nie dran.
Kann man das so sagen? Das kann man sich ja so sagen. Ich meine,
wenn du dir vorangehst, du hast ja gerade die Entwicklung des mechanischen Lebstuhls beschrieben.
Einfache Arbeiter, die hat es da erwischt an dem Punkt.
Jetzt erwischt es plötzlich Leute und da führt dann die Spur direkt zu diesen
jungen Studenten in Arizona, die Eric Schmidt auspfeifen und auch Dario Amodei von Antropic und andere.
Oder Sam Altman beispielsweise, die stehen diesen Leuten unglaublich kritisch
gegenüber, weil sie das Gefühl haben, ihr schafft gerade unsere eigene Zukunft. Ist das der Punkt?
Ja, also es gilt natürlich nicht für jeden, aber viele haben diese Befürchtung.
Und sie sagen, ihr macht das alle für fantastische Renditen,
die wenigen zugutekommen.
Richtig. Da wird sozusagen die amerikanische Bevölkerung von der ganzen Entwicklung
im Durchschnitt nachher gar nichts haben, sondern nur den Jobverlust haben.
Und an dem Börsenmarkt der Champagner schäuben und bestimmte Firmen werden weiterhin
durch die Decke gehen. Das ist aber alles globales Kapital, weil die Firmen,
die da rein investieren, vom norwegischen Ölfonds bis zum saudischen Ölfonds
und so weiter, das ist globalisiertes Kapital.
Das nützt nicht unbedingt den Amerikanern.
Und das Gleiche gilt natürlich bei uns auch. Man kann sagen,
ja, das wird vielleicht in gewisser Hinsicht natürlich zu wirtschaftlichen tollen
Zahlen führen. Aber wird der durchschnittliche Deutsche oder in Deutschland
lebende Mensch davon am Ende einen diesbezüglichen Vorteil haben?
Und jetzt haben wir ja nur die ganze Zeit über die Entwicklung des Arbeitsmarktes gesprochen.
Worüber wir überhaupt noch nicht gesprochen haben, sind, und das ist das Thema,
was mich im Augenblick am stärksten beschäftigt, die kulturellen Folgen.
Also, was wird aus einer Gesellschaft, in der eine künstliche Intelligenz alle
meine Fragen beantworten kann?
Das ist ja eigentlich, weißt du, so wie der liebe Gott. Das ist ja quasi allwissend,
und die hat eine deutlich höhere Autorität als jeder Mensch.
Man nennt das den Automation Bias. Genau.
Das ist also, wenn eine Maschine was sagt, dann ist das wahrscheinlich sehr,
sehr viel richtiger, als wenn irgendein Mensch das sagt, weil wir wissen alle,
Menschen machen Fehler, Menschen haben Interessen, Menschen nehmen die Welt
einseitig wahr, aber diese Intelligenz der Maschine, auf die kann ich mich verlassen.
Das heißt also, man hält das, was Google einem anzeigt, wenn man den Weg sucht,
für hundertmal realistischer als das, was Menschen durch Erfahrungswissen oder
Augen aufmachen oder sich was merken oder so einprägen können.
Und das verändert die Welt, weil die Leute haben jetzt ein Wissen ohne Erfahrung.
Du brauchst keine Erfahrungen mehr sammeln. Früher musste man sich,
um sich besonders gut im Leben zurechtzufinden und um von irgendwas Ahnung zu
haben und mitreden zu können und so weiter, Erfahrungen sammeln.
Erfahrungen waren manchmal nur, um den Preis eines Abenteuers zu bekommen.
Man musste irgendwie aus der Deckung raus, man musste lange Wege gehen und so
weiter, um was rauszukriegen.
Heute leben wir in einer Welt, wo man auf Maus klickt, hat man quasi alle fertigen
Ergebnisse, alle Erkenntnisse dieser Welt.
Die trägt man mit sich rum, braucht man sich auch alles nicht mehr merken.
Aber der Erfahrungsweg ist ausgekürzt.
Das ist noch gar nicht abzusehen, was das mit der Gesellschaft macht.
Also ein paar Folgen fallen mir schon ein.
Zum Beispiel der enorme Verbrauch von Moral hängt damit zusammen,
dass die Leute im ganz großen Ziel Erkenntnisse haben, die nicht auf Erfahrung aufbauen.
Es ist so leicht, eine radikale moralische Meinung über etwas zu haben,
wenn man selber noch nie in der Situation war.
Man glaubt, alles beurteilen zu können, weil man die Erkenntnisse hat,
aber man kennt die Erfahrung, man hat sozusagen dieser spürende Weg,
in dem man sich etwas erschließt, mit all den Irrungen und Wirrungen,
der wird völlig rausgekürzt.
Und da wundert man sich darüber, dass wir in so einer hypererregten und hypermoralisierenden
Welt leben, wenn die Leute ihre festen Überzeugungen nicht mehr aus Erfahrung
gewinnen, sondern aus Informationen, die ihnen per Mausklick zur Verfügung stehen.
Ich habe neulich mit meinem Sohn mich lange darüber ausgetauscht.
Du weißt ja, der arbeitet ja in der Branche und der sagt das ähnlich.
Der sagt, im Silicon Valley herrscht zum Teil nackte Panik, Weil die Codeschreiber,
die jungen Programmierer sagen, wir arbeiten gerade an unserer eigenen Abschaffung.
Da gibt es Leute, die angehalten sind und die sagen, das ist eine Entwicklung, die da jetzt kommt.
Die dauert nicht ein Jahr. Da reden wir von sechs, sieben Monaten.
Die schieben gerade Überstunden wie die Wahnsinnigen und wissen ganz am Ende
dieses Prozesses, die optimieren KI, um selber andere Intelligenz zu programmieren.
Und ganz am Ende ist die eigene Intelligenz nicht mehr gefragt.
Danach bin ich zu Hause und sitze arbeitslos zu Hause.
Du machst die Maschine schlau und die schafft dich ab. So und das Gleiche hat
man neulich bei Meta gesehen, da reden wir jetzt über Facebook und Instagram und so weiter, Konzern,
die so weit gegangen sind, dass sie bevor sie die Leute an die frische Luft
gesetzt haben, haben sie noch alle deren Daten abgegriffen.
Die werden offensichtlich am Arbeitsplatz ziemlich genau beobachtet im Sinne
von, was genau passiert da, nicht so sehr als Überwachung gedacht,
sondern um zu verstehen, wie Arbeitsabläufe sind, wie Prozesse sind.
Wie kann man Dinge optimieren.
Und diese ganzen Daten frisst KI sozusagen, wertet sie aus und danach kannst
du dann bitte arbeitslos nach Hause gehen. Musst du vorher unterschreiben,
dass sie diese Daten bereit sind, zur Verfügung zu stellen. Das musst du dir mal klar machen.
Und mein Sohn hat mir etwas zugerufen, das geistert seitdem durch meinen Kopf.
Er sagte, Papa, da gibt es die Sorge vor dem Entstehen einer Permanent Underclass. Mhm.
Eine dauerhafte Unterklasse, eine Schicht von Menschen, die einfach dauerhaft
abgehängt ist, weil sie einfach keiner mehr braucht.
Die in der feudalischen Gesellschaft.
Wir kommen ja aus vielen Gründen, ich habe das ja auch schon mal gesagt,
erleben wir hier eine ökonomische Refeudalisierung, weil die Datenökonomie,
die besteht ja eigentlich im Grunde genommen aus lauter Monopolen.
Jeder hat so quasi in der digitalen Welt, sei es Google, sei es Meta,
sei es Amazon, sein eigenes Geschäftsfeld, seinen eigenen Claim abgesteckt und
hat auf diesem Gebiet keinen ernstzunehmenden Konkurrenten.
Und diese Entwicklung, diese Refeudalisierungsentwicklung, das ist deswegen
ein sehr treffendes Bild, weil sie für das zutrifft, was du gesagt hast.
In der Fortalgesellschaft gab
es quasi das Landproletariat, also die Wanderarbeiter, die Erntehelfer.
Die Leute, die saisonmäßig irgendwo gebraucht wurden und für die restliche Zeit
nicht gebraucht wurden und wenn die Ernte schlecht war, wurden nur ganz wenige
gebraucht und weil viel zu viele Menschen da waren für zu wenig Arbeit,
konnte man den Lohn auf ein absolutes Minimum drücken.
Und es könnte sein, dass im zweiten Maschinenzeitalter genau wieder dieser Wanderarbeiter entsteht.
Also natürlich wird es noch Leute brauchen, die abends den Teer auf der Autobahn
auftragen, selbst wenn auch das stärker roboterisiert werden wird mit selbstfahrenden Fahrzeugen.
Aber da werden immer noch Menschen arbeiten, also in Bereichen,
in denen nicht allzu viele arbeiten wollen und auch in Bereichen,
die körperlich noch sehr hart sind und so weiter, ein bisschen Betonbischer
bedienen und so, da bleibt ein bisschen was übrig.
Aber so das klassische Erfolgsversprechen, dass du als Sohn eines Arbeiters
es schaffst mit Tüchtigkeit und Fleiß und so weiter, dich so Stück für Stück
ein bisschen weiter und von Generation zu Generation eine Stufe höher zu entwickeln.
Was typisch für das bürgerliche Zeitalter ist, was es in der Feudalzeit ja überhaupt
nicht gegeben hat. Da gab es diese Aufstiegsmöglichkeiten nicht.
Das könnte sein, dass das zu Ende geht und dass wir tatsächlich wieder diese
Refeudalisierung mit einschließlich einer großen Zahl komplett abgehängter werden
werden. Die jetzt aber Teil der alten Mittelschicht sind.
Das ist das Neue daran. Und da, glaube ich, könnte es zu Verwerfungen kommen,
von denen haben wir noch gar keine Ahnung. Das Zusammendrücken der Zwiebel erleben wir schon lange.
Das Zwiebel, das ist die breiteste Schicht, eben die Mittelschicht ist.
Und schlechte Gesellschaften haben eine Sanduhrfigur. Die sind in der Mitte
zusammengedrückt. Die bestehen nur aus oben und unten.
Und diesen Weg zur Sanduhr, der wird bei uns diagnostiziert seit etwa 15 Jahren.
Und ich halte seit zwölf Jahren Vorträge über Digitalisierung.
Und ich habe schon sehr früh gesagt, weil die Leute haben immer die Frage gestellt,
mir danach, ist alles gut und schön, was sie erzählt haben.
Was soll ich denn meinem Kind raten, was es werden soll? Ja,
und die haben eigentlich gehofft, dass ich sage Informatiker,
ja, weil da hieß es immer, das sind die Arbeitsplätze der Zukunft,
da entstehen so viele Millionen Arbeitsplätze und richtig ist auch,
wenn man ein wahnsinnig gut ausgebildeter Informatiker ist, dann steht einem sehr viel offen.
Aber wenn man keine große Affinität hat und trotzdem Informatik studiert,
dann wird man nicht so ein ganz toller Informatiker, dann wird man Feld,
Wald und Wiesen Informatiker und genau die braucht es nicht mehr.
Also der Witz der künstlichen Intelligenz besteht ja in der Selbstprogrammierung.
Wir sprechen ja eigentlich nur dann von künstlicher Intelligenz,
wenn Maschinen in der Lage sind, sich selbst zu optimieren.
Und das bedeutet, dass gerade in dem Bereich der Informatiker,
ja, und zwar sozusagen, er geht auch genau wie durch die Gesellschaft so ein
Riss durch, ja, in den oberen Teil und in den unteren Teil.
Wobei der obere Teil allmählich schmaler wird, weil die Maschinen immer mehr
können. Genau, das sind mal ganz wenige, ne? Ja, und für die anderen sieht das
nicht gut aus. Die braucht man nun wirklich nicht mehr.
Ich würde gerne nochmal auf diesen kulturellen Kapitalismus,
Richard, zurückkommen, über den du ja so gerne sprichst.
Ich habe darüber auch mit meinem Sohn geredet.
Und zwar, Anlass war diese Erwiderung, ich glaube, wir haben schon mal kurz darüber gesprochen,
du erinnerst dich möglicherweise, es kommt raus, dass Mario Vogt,
der thüringische Ministerpräsident, einen Gastbeitrag in der FAZ veröffentlicht
hat und stellt sich dann raus,
generiert mit Hilfe von KI oder Teile davon, wie auch immer.
Und dann sagte die FAZ-Redaktion, das ist ja eine Entscheidung,
die man treffen kann, redaktionell oder eben nicht, das werden wir nicht mehr
zulassen. Wir werden in Zukunft keine KI-generierten Texte mehr,
Gastbeiträge, wie auch immer, akzeptieren.
Dann kommt sozusagen der Einwand, ja gut, wo kommen wir denn da hin?
Weil welcher Spitzenpolitiker schreibt denn schon seine Texte wirklich selbst?
Ja, die haben ja welche Redenschreiber oder andere Leute, die ihn zuarbeiten
und so weiter. Im Grunde versucht man zu argumentieren, dass es eigentlich so ist, wie es immer war.
Matthias Döpfner, der Chef von Springer, schreibt daraufhin eine Replik.
Eine ziemlich hart zugespitzte Antwort, eine Entgegnung, wenn man so will.
Und argumentiert leidenschaftlich dafür, dass das doch eigentlich gar kein Problem
ist, mit genau den Argumenten, die ich eben genannt habe und noch einige mehr.
Und ganz am Ende dieses Textes kommt die Pointe. Er sagt, und übrigens auch
dieser Text wurde generiert von KI.
In dem Fall von Gemini, glaube ich. Das ist das Modell von Google.
Und zwar innerhalb von weniger als einer Sekunde.
Und ich habe mich mit meinem Sohn länger darüber unterhalten,
was das eigentlich bedeutet. Ich war erst wirklich verblüfft und dachte,
wow, das ist ja echt der Knaller. Aber das war ein richtig guter Text.
Hat mich echt beeindruckt.
Es gibt viele Journalisten, die wären nicht in der Lage, so einen Text zu schreiben.
Meine Frage ist an dich, Richard, wie groß ist die Gefahr, dass wir uns langsam
daran gewöhnen? Dass wir uns schleichend an immer mehr KI-generierte Texte gewöhnen?
Dass die Eingang in den Journalismus finden?
Dass wir irgendwann nochmal zweimal mit den Augen blinzeln und dann wird es
richtige Journalisten quasi gar nicht mehr geben, sondern nur noch Texte,
die von KI generiert sind.
Die These meines Sohnes ist, er sagt, die Leute werden diese Texte nicht mögen.
Deswegen glaubt er, dass das nicht das Ende von Journalismus ist.
Das glaube ich nicht. Sie werden es nicht erkennen. Ja, pass auf,
lass mich kurz das Argument, weil er sagt, die werden alle ähnlich argumentieren.
Die werden alle ähnliche Textbausteine verwenden.
Die werden nicht wirklich originell und kreativ sein, sondern tendenziell eher langweilig.
Und es gab in diesem Text von Matthias Döpfner eine Formulierung,
auf die hat er mich aufmerksam gemacht und sagte, an der Stelle weiß jemand,
der aus meinem Fach kommt sofort, dass sie es KI generiert.
Und zwar so dieses Aufbauen von typischen Gegensätzen. Da findet sich irgendwo
die Formulierung, das, was ihr da macht, lieber FAZ, das ist nicht progressiv,
sondern das ist digitale Hexenjagd.
Und mein Sohn sagte, das ist so eine ganz typische KI-Formulierung.
Ja, das ist nicht das, sondern das ist jenes und so weiter.
Und er sagt, die Welt wird dadurch ärmer und sie wird weniger bunt und sie wird langweiliger.
Und deswegen werden Menschen das möglicherweise nicht akzeptieren.
Aber vielleicht, deswegen ist er sich da unsicher, gewöhnen wir uns auch einfach
daran, an diese kulturelle Armut, die damit sozusagen einhergeht und nehmen
es irgendwann einfach hin und sitzen zu Hause mit unseren
Videospielen, weil wir eh nichts mehr zu tun haben.
Und fühlen uns sozusagen nutzlos und leer.
Was glaubst du? Ich habe vor ein paar Jahren gerne das Gleiche geglaubt wie
dein Sohn und ich freue mich, wenn junge Menschen das Gleiche glauben.
Was es dann irgendwann im menschlichen Widerstand dagegen geben wird und so weiter.
Inzwischen bin ich da nicht mehr sicher. Also der Mensch ist irrsinnig anpassungsfähig.
Wenn also jetzt Studenten, die heute studieren, ihre Hausarbeiten mithilfe von
KI erstellen dürfen, und das dürfen die allermeisten.
Sie müssen nur hinten angeben, dass sie es benutzt haben oder vielleicht was
sie, ob sie Chatschipiti oder was auch immer oder Klotter, was auch immer sie benutzt haben.
Dann war ja der eigentliche Sinn von Hausarbeiten, dass du dich von Hausarbeit
zu Hausarbeit steigerst. Dass du quasi lernst, wie baue ich das auf,
dass du deine Formulierungen schulst und so weiter. Der Effekt ist ja bei Null
dann, weil du montierst ja dann nur noch das, was die KI gemacht hat, irgendwo zusammen.
Jetzt wird erwartet, dass du zumindest deine Magisterarbeit oder Diplomarbeit noch selber schreibst.
Da darfst du das dann nicht benutzen. Die Wahrheit ist aber,
dass du nicht in der Lage bist, eine Diplomarbeit zu schreiben,
weil du alles auf dem Weg dahin ja nicht gelernt hast.
Das hat ja immer die KI für dich gemacht. Und auf einmal wird erwartet,
dass das, was immer die KI gemacht hat und was du gar nicht gelernt hast, dass du das kannst.
Also ist es nur eine Frage der Zeit, bis auch die KI deine Diplomarbeit schreibt.
Dann stellt sich die Frage, was ist der Sinn oder der Wert eines Universitätsabschlusses?
Im Augenblick wurde gerade Thema Bildungsreform darüber diskutiert oder mehr
oder weniger in die Wege geleitet, dass Klausuren kürzer sein sollten und mehr
Projektarbeit gemacht wird.
Ist etwas, was ich grundsätzlich für richtig halte. Nur waren Klausuren bisher
eine der wenigen Dinge, wenn du die unter Aufsicht geschrieben hast,
wo du nicht KI benutzen konntest.
Das wird also jetzt auch nochmal kleiner gemacht. Dann kommt doch der nächste
Schritt, dass man sich fragt, wozu noch Universitäten?
Also was soll das denn eigentlich dann noch? Also das spielt ja auch eine große
Rolle, ob du jetzt an einer berühmten Universität studiert hast oder an irgendeiner
nicht ganz so renommierten und so.
Aber wo soll doch der Unterschied dabei sein, wenn du im Studium quasi 90 Prozent
aller Arbeitsanforderungen durch KI erledigt hast? Exakt.
Und ich glaube tatsächlich, dass man dann sagen kann, ja, wir können diese Entwicklung
aber nicht aufhalten. Und wenn wir das den Schülern verbieten,
dann machen sie es ja trotzdem und so weiter. Und großes Problem,
wenn du in deiner normalen Hausarbeit KI benutzt, kann das die Uni nicht erkennen.
Das heißt, sie könnte das vielleicht mit der Intelligenz und dem Wissen deines
Sohnes erkennen. Aber dafür bräuchte sie ja irrsinnig viel Personal,
dass das alles überprüft.
Sie überprüfen mit KI ja die Examensarbeiten, aber sie überprüfen ja nicht jede
Hausarbeit. Also das ist ja viel zu viel Arbeit.
Und so gibt es quasi einen schleichenden Prozess. Vor fünf Jahren hätte man
gesagt, das darf niemals passieren, bis hin zu der Diskussion,
naja gut, selbst bei einer Diplomarbeit werden die wahrscheinlich KI benutzen.
Zum Thema, wie schnell dieser Anpassungsprozess ist. Dann das andere.
Ja, es gibt natürlich Erzeugnisse in der Literatur, wo ich sagen kann,
das kann eine KI zum gegenwärtigen Zeitpunkt nicht und wahrscheinlich auch mittelfristig nicht.
Also verrückte Bücher schreiben wie Zettels Traum von Arno Schmidt.
Also ein Buch, was ein Normalsterblicher nicht lesen kann oder Finnegan's Wake von James Joyce oder so.
Auch so komische, enigmatische Texte wie von Antonio Lobo Antonisch,
meinem gerade unlängst verstorbene portugiesischen Schriftsteller,
den ich also sehr verehre.
Das kann ein KI zum gegenwärtigen Zeitpunkt nicht. Aber ehrlich gesagt hat sich
auch nie jemand die Mühe gemacht, weil das ja so ein Spatensegment ist. Richtig.
Ein Kriminalroman, der in die Bestsellerlisten stürmt, obwohl er literarisch,
sagen wir mal, dürftig ist, den kriegt die KI sehr, sehr weitgehend hin.
Und vor allen Dingen du in Zusammenarbeit mit der KI. Die hilft dir,
deinen Plot zu entwickeln und die hilft dir, deine Figuren irgendwie origineller
zu machen. Musik ist auch so ein Feld.
Musik ja ohnehin. Ich meine, so viele Musikgeneratoren, wie es inzwischen gibt
und das Niveau, mit dem du da inzwischen komponieren kannst.
Wir haben da ja mit Andreas Lohf auch schon drüber gesprochen.
Und es ist richtig, das demokratisiert das Kunstherstellen.
Aber eine gewisse Einförmigkeit ist dann letztlich schon dabei.
Und wenn sie einförmiger wird, wird dann die Kunst langweiliger und wenn sie
langweiliger wird, dann ist es auch irgendwann egal, wenn es sie quasi gar nicht
mehr gibt und die Leute das nur noch als Hobby machen.
Also die Gewöhnungs- und Anpassungseffekte sorgen in vielen Bereichen dann zu Entwertungen.
Entwertung von geistiger Arbeit und Entwertung von kreativer Arbeit und das
kann sehr, sehr schnell passieren.
Dazu passt total gut ein Interview. Die FAZ macht viel zum Thema KI, empfiehlt sich sehr.
Die hatten vor einiger Zeit ein Interview über Tim Cook, den scheidenden oder
ehemaligen Apple-Chef, der direkt nach Steve Jobs übernommen hat.
Und der hat berichtet, wie sich an Schulen die Dinge verschoben haben.
Und er sagte, wenn die Lehrer früher ihre Schüler gebeten haben,
sich mit einem Text zu beschäftigen, dann kamen häufig Ergebnisse zurück,
die sehr überraschend waren.
Da kamen ganz unterschiedliche Gedanken zurück. Und das ist nicht mehr so.
Sondern die Schüler kommen heute, so berichtet es Cook, mit nahezu identischen
Ideen und Stichpunkten und Texten zurück.
Und er sagt, das erzählt mir jeder Lehrer, mit dem ich spreche.
Und für ihn ist offensichtlich, das hat was mit generativer KI zu tun.
Also Schüler denken nicht mehr selbst, sondern lassen das, wie von dir gerade
beschrieben, von KI erledigen.
Und er ging dann nochmal weiter und sagte, diese generative KI,
die hat sich heute schon, und das ist eigentlich das, was du gerade als These formuliert hast.
Ganz schnell und viel tiefer in den Alltag reingefräst, als wir uns das eigentlich
vorstellen können und schneller als jede Technologie zuvor.
Und er sagt, sie dringt tiefer in Bereiche ein, die bisher eigentlich nur menschlichem
Denken vorbehalten waren.
Wenn man sich das mal anschaut, jede siebte biomedizinische Studie,
jede fünfte Kundenbeschwerde, jede vierte Pressemitteilung von Unternehmen wird
inzwischen mit KI geschrieben und zwar mindestens.
Und meine Frage an dich ist, Richard, wenn wir so viele Aufgaben,
für die man eigentlich denken muss, jetzt einfach an Maschinen auslagert,
beeinflusst dann die Maschine nicht irgendwann auch die Art und Weise, wie wir denken.
Das ist genau das, was ich vorhin zum Thema Journalismus meinte.
Wir gewöhnen uns irgendwann an etwas, was so ein bisschen dürftiger ist,
was langweiliger ist, was weniger originell ist, aber wir gewöhnen uns daran.
Wir nehmen es einfach hin. Ja, und das macht uns kulturell ärmer.
Ja, es wird vielleicht schon auch noch ein bisschen besser werden, das glaube ich schon.
Außerdem ist es natürlich ein lustiges Beispiel ausgerechnet,
eine Politikerrede zu nehmen, weil die meisten Politikerreden,
die hören sich seit Jahrzehnten so an, als hätte eine KI geschrieben.
Das ist ja nicht der Bereich, wo Kreativität sich besonders austobt.
Also insofern, darum ist es eigentlich am wenigsten schade. Ja,
aber anders formuliert es auch das Beispiel für die Gegenthese.
Wenn dann mal jemand wie Mark Carney zum Beispiel, der kanadische Premier in
Davos diese Rede hält, dann fällt das sofort dermaßen auf und aus dem Rahmen,
dass wir uns monatelang darüber unterhalten, weil es so herausragend ist.
Gleiche gilt auch für die Sachen, die nach unten herausragen.
Das ist wahr. Also was Donald Trump so von sich gibt, das würde eine KI nie machen.
Das ist richtig. Die würde also deutlich vernünftigere, ausgewogenere und weniger
irre Texte formulieren.
Also man kann dann am Grad des Ausfälligen,
des Irren und so weiter noch erkennen, wo keine KI am Werk ist.
Aber richtig ist bei dem, was du sagst, da ist so eine Normierung drin.
Weißt du, alles wird irgendwie sehr ähnlich, auch stilistisch.
Die KI hat so ein, also wir sagen immer die KI, aber wir meinen natürlich die
entsprechenden LLMs, Dutch Language Models.
Und die sind ja alle darauf getrimmt, verständlicherweise, dass sie nicht polemisch sind.
Auch wenn sie sowas im Zweifel zwar auch können, aber sagen wir mal für die
normale Information oder so. Und dass sie es versuchen in so einer für alle
allgemein verständlichen Klarheit zu formulieren. Das können ja viele Menschen
nicht. Es ist auch toll, dass die KI das besser kann als viele Menschen.
Aber so dieser stilistische Eigensinn.
Den Menschen, die viel geistig arbeiten oder so. den die haben.
Manchmal auch Leute, die gar nicht wie geistig arbeiten, die einfach einen irrsinnigen
Witze in der Sprache haben oder sowas. Eine tolle Sprachaffinität oder so.
Das wird eigentlich immer weniger werden und das, was von der Stange ist, wird immer mehr werden.
Und darin sehe ich schon eine gewisse kulturelle Versteppung.
In dem Zusammenhang etwas anderes, Richard. Das ist ja auch eine Frage, die sich stellt.
Hat, glaube ich, Bernie Sanders vor einiger Zeit darauf hingewiesen.
Das fand ich einen total interessanten Gedanken. Er sprach darüber,
ob wir es eigentlich als Gesellschaft hinnehmen müssen.
Dass ein paar wenige gigantische Tech-Konzerne sich am Wissen der gesamten Menschheit bedienen.
An allem, was an Musik da ist, was an Kunst da ist, an allem,
was die Menschheit an Büchern jemals hervorgebracht hat. Auch deine Bücher finden da Einfluss.
Dinge, die wir sagen, die wir reden. Die werden alle verwurschtelt,
einfach genommen, ohne zu fragen.
Und dann entwickelst du daraus etwas, womit ein paar ganz wenige unfassbar machen.
Ja, dann würde man sagen, in einer idealen Welt gäbe es das nicht.
Dann würde man sagen, es ist ja alles Urheberrecht. So, aber Urheberrecht,
die KI macht ja daraus was Neues, generativ, macht ja etwas, was anders ist.
Ja, aber sie benutzt unser Material. Ja, ist schon klar. Sie benutzt Material,
das sie nicht selbst hergestellt hat, sondern das sie in Anführungszeichen vorgefunden
hat, das aber nicht die Natur hervorgebracht hat, sondern andere Menschen.
Dann würde ich jetzt immer argumentieren und sagen, na gut, Richard,
wenn du über, keine Ahnung, über die Liebe schreibst, dann lässt du dich auch
inspirieren, nennen wir das dann vornehmlich. Selbstverständlich.
Oder Aristoteles oder keine Ahnung von wem. Natürlich.
Kein Mensch schreibt ein Sachbuch von Wert und Rang, ohne dafür nicht ganz viele
andere Bücher gelesen zu haben.
Das liegt natürlich in der Natur der Sache und versucht daraus etwas zu machen,
was mehr oder weniger originell eigen ist. und da unterscheiden die Werke sich
dann an dem Grad der Originalität und an dem Grad dessen, wie sinnvoll das Originelle ist.
Schöpfungshöhe ist das Thema. Aber natürlich ist es nichts davon aus Null.
Also die einzige Schöpfung aus dem Null, die es hier gegeben hat,
das war als der liebe Gott in sechs Tagen aus Motiven, die er für sich behalten
hat, die Welt geschaffen hat.
Aber ansonsten gibt es eigentlich keine Urzeugung, sondern jeder greift auf
irgendetwas zurück. Das ist schon ziemlich klar.
Aber wenn man sehr deutlich auf etwas zurückgreift, dann macht man Anmerkungen
und Fußnoten. und so weiter und weist das ja auch entsprechend aus,
was die KI ja im Regelfall auch nicht macht.
Sie verweist im Zweifelsfall so auf ein paar Quellen, aber,
Das ist auf jeden Fall intransparent. Wie sie zu dem gekommen ist,
was sie macht, das erklärt sie nicht. Und jetzt kommt ein ganz interessantes,
philosophisches Problem.
Das ist dir mit Sicherheit auch neu. Es ist schon einigen aufgefallen und das
muss man in aller Ruhe sich mal überlegen.
Im Grunde genommen haben wir die Vorstellung, dass alles, was jemand tut oder sagt, begründet ist.
In der Physik hat jede Wirkung eine Ursache.
Und wenn jemand was sagt, dann hat er ein Motiv dafür, was zu sagen oder Gründe.
Das heißt, das Universum des Menschen besteht nicht aus Ursachen,
das besteht aus Gründen.
Wir haben immer Gründe, mal bewusste oder weniger bewusste und können im Zweifelsfall,
wenn wir eine bestimmte Haltung zu dem Thema haben, wie zu dem,
was wir jetzt über KI reden, immer einen Grund dafür nennen.
Und dann kann man nochmal fragen, ja, aber wie sieht es denn mit diesem Grund
aus und so weiter. Also wir haben immer so Begründungsketten.
Das heißt, wir unterstellen, die Dinge sind dann vernünftig,
wenn sie kausal sind und man diese Kausalität nachvollziehen kann.
Und jetzt kommt das Interessante, das können wir im Umgang mit KI nicht machen.
Warum die KI das ausgewählt hat und nicht das und warum sie so argumentiert
und nicht anders argumentiert, im Detail können wir das nicht nachvollziehen.
Das ist das Ergebnis aus Millionen, Milliarden statistischer Korrelationen,
aus denen das am Ende irgendwo ausgekommen ist.
Aber es sind keine kausalen Begründungswege mehr.
Das heißt, wir gewöhnen uns in unserer Welt an ein Wissen,
dessen Gründe wir nicht angeben können, auf dessen Ursachen wir nicht zurückgehen
können und dem wir aber mehr vertrauen als menschlichem Wissen. Automation Bias.
Weil wir sagen, da sind ja Millionen von Dingen gesichtet, gemacht und so weiter
und da ist das rausgefiltert.
Und damit ist dieser alte Gedanke, der Philosophie mal möglich gemacht hat,
auch Naturwissenschaften möglich gemacht hat, dass es eigentlich immer eine
kausal verfolgbare Kette geben muss.
Entweder von Ursachen und Wirkungen oder eben also von Motiven und Gründen. Die ist unterbrochen.
Und es bedeutet auch, wir lernen nicht mehr von Menschen. Wir lernen viel,
viel mehr von Maschinen als von Menschen. Und da muss man sich auch psychologisch
überlegen, was das bedeutet.
Ein Maschinenwissen, das per Klick da ist, oder einem Menschenwissen,
das aus Erfahrungen gewonnen ist. Ich sage nicht, dass das menschliche Wissen qualitativ besser ist.
Es wird wahrscheinlich, so wie beim Schach, gegen den Schachcomputer verlieren.
Aber es hat einen anderen Zuschnitt. Es bekommt seine Plausibilität zum Beispiel
auch aus der Struktur dessen oder aus dem Zuschnitt dessen, der es sagt.
Wenn ich sage, das ist eine vertrauenswürdige Person. Deswegen nehme ich mal
an, dass das, was der sagt, plausibel ist oder zumindest nicht böse gelogen und so weiter.
Diese Art von Verhältnis haben wir ja zu den Maschinen nicht.
Positiv können wir sagen, das ist jetzt von dieser ganzen Subjektivität gereinigt.
Aber negativ kürzen wir aus der Welterkenntnis den menschlichen Faktor aus.
Und verarmeln auch da, ne?
Ja, ich glaube, das ist ja gerade meine Befürchtung. Also ich spreche ja jetzt
zunehmend davon, dass wir Kultur verlieren.
Mit Kultur meine ich natürlich jetzt nicht Museumsbesuche.
Also Tutankhamun-Ausstellungen werden auch noch in 50 Jahren super erfolgreich sein.
Und es wird immer noch die Hochzeit des Figaro und die Zauberflöte irgendwo
in Opernhäusern aufgeführt. Das ist nicht das, was verloren geht.
Mit Kultur meine ich, dass sich tiefe Originelle reinversenken in Dinge,
die man für sich und in sich und an sich und so entfaltet und die dafür auch
keinen Zweck haben müssen.
Nicht haben dürfen, aber nicht haben müssen. Alles wertvolle im menschlichen
Leben stammt von Tätigkeiten, die keinem höheren Zweck dienen.
Sondern wo einfach die Beschäftigung mit der Sache selbst, die Neugier,
die man dabei hat, die Dimensionsgewinne, die Lustgewinne, die man hat und so weiter.
Das ist ja eigentlich das menschliche Leben. Das ganze menschliche Leben hat
ja auch kein echtes Ziel oder keinen echten Zweck, sondern es hat richtig verstanden
Selbstzweckcharakter. Richtig.
Und dieser Selbstzweckcharakter, diese Beschäftigung mit was,
das ist was ganz anderes als diese Effizienzdenken oder Nutzendenken.
Guck mal, wer soll denn das sein, nur das nichts von Sachter noch lesen,
ein Buch von tausend Zeiten, was ein Abenteuerroman der besonderen Sorte ist,
zu versuchen, das zu lesen.
Im Vergleich dazu, wenn ich mit der KI eine Zusammenfassung auf einer Seite
habe, dann glaube ich alles verstanden zu haben, dann kann ich mitreden und
könnte im Zweifelsfall sagen, ja, da geht es um das, das, das und das.
Aber alles, was Sachtre dazu gebracht hat, da irgendwie über viele Jahre mit
sich und der Welt zu hadern, zu ringen und so weiter, was man,
dieser Geist, der aus dem Buch atmet,
der wird vielleicht noch in zwei Seiten, ja, der Stil ist so und so gehalten
und Sachtres persönliche Umstände waren so und so, aber nur die Beschreibung
von etwas oder das Mitdurchleiden.
Also Lesen ist ja Denken mit fremdem Gehirn.
Und ein Prozess über tausend Seiten, Denken mit fremdem Gehirn,
hinterlässt natürlich ganz andere Sedimente da oben in einem Gehirn,
als das Lesen einer Zusammenfassung.
Aber die Menschen werden glauben, sie wissen alles, wenn sie die Zusammenfassung
gelesen haben. Ja, das ist ja exakt das, was Tim Kuck da beschrieben hat mit
Blick auf Hausaufgaben, Interpretationen.
Weil es ist ja ein Unterschied, ob du diese tausend Seiten liest oder ich die
lese oder Lukas die liest. Absolut.
Also bei jedem von uns wird das ja was anderes auslösen. Und das,
was Tim Cook da beschrieben hat in diesem FAZ-Porträt, ist ja,
dass es, wenn du es KI generiert machst, im Grunde immer was ähnliches hinterlässt.
Weißt du, woran ich gerade denken muss? Es gibt einen der berühmtesten Anfänge
der Weltliteratur, Anna Karenina.
Wenn Familien, so sinngemäß, wenn Familien glücklich sind, dann sind sie alle
auf eine ähnliche Weise glücklich. Und wenn sie unglücklich sind.
Auf seine ganz eigene Weise unglücklich. Das ist ja grandios.
Aber die Zusammenfassung einer KI auf zwei Seiten dieses endlos langen Romans
würde das ja nicht berücksichtigen.
Aber es wird sehr schwer sein, künftige Generationen dazu zu ermuntern,
noch viele hundert Seiten zu lesen, wenn sie die Essenz auf zwei Seiten kriegen
können. Ja, das ist wahr.
Gut kann man sagen, gab es früher auch. Konntest du in Metzlers Literaturlexikon
nachgucken oder im Philosophielexikon, da wurde dir das auch erklärt.
Aber kein Philosophiestudent wäre früher auf die Idee gekommen,
dass die Zusammenfassung im Philosophielexikon dir die Lektüre ersetzt.
Das ist aber heute was anderes geworden, weil die KI ja da antritt, um zu ersetzen.
Anders als das Lexikon früher. Das Lexikon wollte dir einen kleinen Einblick, Überblick geben.
Die KI sagt, du musst dich damit nicht beschäftigen, ich mache das für dich.
So wie sie dir hilft, den Weg zu finden. Du musst keine Karte studieren,
musst nicht den Stadtplan von Barcelona auswendig wissen, ich lote dich schon dadurch.
Und die gleiche Haltung nimmt die KI natürlich auch als guter,
braver Helfer ein in allen großen geistigen Fragen. Mach dir das einfach zugänglich
und so weiter, löst die Probleme für dich.
Aber sie befreit dich dann von, im Zweifelsfall, schlimmstenfalls sogar von deiner Neugier.
Du denkst, ach ja, jetzt weiß ich das alles. Ja, ist ja schön.
Ist ja so interessant ja vielleicht doch nicht. Und dann war es das.
Du kennst mit Sicherheit Koe Saito. der ist so ein Superstar der Philosophie
ich habe neulich über den gelesen ich muss ehrlich gestehen,
ich kannte den nicht aber Leute, die sich sehr für Philosophie interessieren,
die kennen den der war vor einiger Zeit in Wien das ist ein sehr.
Japaner, der sehr unkonventionell denkt der auch zum Beispiel so Dinge sagt
wie auch Linke könnten von Peter
Thiel eine Menge lernen der ist sehr undogmatisch und sehr unideologisch,
Und der hat dort neulich über das Manifest, haben wir beide auch schon mal gemacht,
von Alexander Karp, dem Chef von Palantir gesprochen, ist ein Freund von Peter Thiel,
wo er beschreibt sozusagen, was das für eine, ja im Grunde so eine dunkle Dystopie.
Und dieser Sahito sagt, Alexander Karp, der interessanterweise ja in Deutschland
studiert hat und auch exzellent Deutsch spricht und neulich für die auch spannend war.
Habermanns mal begegnet ist. Genau und erzählt hat,
wenn du verstehen willst, wie sehr sich die Dinge verändert haben,
dann musst du dir einfach nur mal klar machen, dass heute eine fundierte Unterhaltung über KI,
wenn richtige Spezialisten untereinander reden, die kannst du nur noch in Englisch
halten, weil die deutsche Sprache die nötigen Termini dafür gar nicht mehr bereithält.
Und er sagte, macht euch klar, das war alles mal ganz anders.
Deutsch war die Sprache in Wissenschaft, in Physik und so weiter.
In der Philosophie, weil man mit der deutschen Sprache unglaublich viel Tiefsinn
erzeugen kann. Mehr als in jeder anderen Sprache. Allerdings auch viel Blödsinn,
der sich als Tiefsinn tarnt.
Ja, pass auf. Also was Saito sagt, ist folgendes.
Er sagt, Alex Karp, der Chef von Palantir, liegt vollkommen richtig,
wenn er sagt, dass der heutige Kapitalismus im Westen nur noch Konsumspielereien hervorbringt.
Sowas wie Social Media, wir daddeln von morgens bis abends auf irgendwelchen
mobilen Endgeräten rum, aber keine wirkliche, echte Innovation mehr.
Und er sagt, das wird am Ende unser Untergang sein.
Er sagt, anders als viele Linke hält er auch die oft beschworene Gefahr eines
gesellschaftlichen Zusammenbruchs nicht für ein rechtes Narrativ,
sondern für eine realistische Beschreibung dessen, was kommen könnte.
Und er sagt, was wir gerade erleben, ist nur der Vorgeschmack auf das,
was uns erwartet. Er sagt, da wird anbrechen eine Epoche der permanenten Mangelwirtschaft.
Mit brutalen Verteilungskämpfen, das klingt echt nach Mad Max und einer verwüsteten Welt und so weiter.
In der sozusagen ein paar wenige bestimmen Tech-Konzerne, wo es lang geht und
der Rest versucht irgendwie durchzukommen, permanent underclass, da ist es wieder,
und versucht sich ansonsten die Zeit mit nutzlosem Mist zu vertreiben.
Und ich habe das so gelesen und dachte, oh Mann, was, wenn der Recht hat?
Ja, weil er selber ein Teil der ganzen Entwicklung ist. Ja, richtig.
Also er selber gehört ja zu denjenigen, zu den ganz großen Profiteuren,
die sehr, sehr viel Geld damit verdienen.
Und ich glaube, seine Lösung auf das Ganze ist, dass wenn man Systeme wie Palantir
einsetzt, dass man dann in der Lage ist, seine Bevölkerung besser zu kontrollieren
und die totale Anarchie zu verhindern.
Das ist allerdings eine interessante Mischung, das was er da erzählt, aus Putin und Xi.
Also was er mit Putin gemeinsam hat, ist diese Vorstellung, dass wir in einer.
Total dekadenten Gesellschaft leben.
Das ist ja das, was Putin auch immer sagt, der Westen ist total dekadent.
Und eben mit Xi zu sagen, Vertrauen ist gut, Kontrolle ist besser.
Dann müssen wir eben die Leute so gut es geht, ja, mit Hilfe ausgefuchster Technologien
so überwachen, dass wir das Chaos verhindern und jederzeit präventiv einschreiten können.
Also im Grunde genommen ist das so, ist das das Denken eines Geheimdienstchefs.
Der sieht also nur Übles kommen auf der einen Seite und auf der anderen Seite
freut er sich auf die Technologie, mit der man das Üble in Schach halten kann.
Ja, das ist natürlich dunkle Aufklärung, weil da ist kein positives Menschenbild
mehr hinter. Da ist kein positives Verständnis von Fortschritt mehr hinter,
was also für die Aufklärung ja immer absolut zentral war.
Man kann schon sagen, dass diese Leute, das gilt auch für Peter Thiel und für
Karp und so, jegliches Vertrauen in eine positive Entwicklung der Menschheit verloren haben.
Richtig. Das sagt Zahito übrigens auch.
Der glaubt, dass der große Digital- und KI-Boom nicht mehr lange anhalten wird.
Der sagt, wir erleben gerade den Peak.
Die Blase wird spätestens in ein bis zwei Jahren platzen, sagt er.
Und er meint diese spektakulären Börsengänge von SpaceX, die,
Raumfahrtsfirma von Elon Musk oder auch von OpenAI, Sam Altman und andere.
Er sagte, das ist eigentlich nur ein Indiz dafür, dass auch diese Konzerne das
nahende Ende dieses Hypes ahnen und jetzt vor der großen Börsendämmerung noch
mal versuchen, alles rauszuholen.
Und er sagt, wenn du mal genau hinguckst, dann bereiten sich eben Leute wie
Musk und Thiel auch schon länger auf genau diese Zustände vor.
Ja, diese dunkle Aufklärung, die dann auch das Ende von Demokratie und Gleichheit ist.
Und am Ende, und jetzt kommt exakt das, was du eben beschrieben hast,
am Ende sagt er, diese Entwicklung, dieses Technokapitalismus steht eine Kontrollgesellschaft,
Xi, die soziale Instabilität mit Zwang zu unterdrücken versucht.
Das heißt, die totale Dekadenz, die dann an ihr Ende kommt.
Worum ich mal übrigens eins zu Xi vielleicht dazu sagen sollte,
die Chinesen haben gerade einen neuen Fünfjahresplan verabschiedet.
Das ist nicht mehr das große Hauptthema. Technologie besteht nicht mehr die
ganz, ganz große Rolle da drin. Sie haben ihr Social Credit System aufgegeben.
Und das große Thema, was jetzt ist, da sollten wir die Ohren spitzen bis zum geht nicht mehr.
Es geht darum, die Schere zwischen Arm und Reich zu schließen.
Also das gleiche Problem, was die chinesische Gesellschaft hat,
was die liberalen Demokratien des Westens ja auch haben.
Die zunehmende Drift von Arm und Reich. Und dann sagt man, dass so viel Unfrieden hervorbringt.
Und weil die wirtschaftliche Entwicklung, da sind wir bei KI,
immer stärker in die Richtung geht, diese Sanduhr zu erzeugen.
Und auch in der chinesischen Gesellschaft keine Zwiebel erzeugt.
Richtig. Überlegen die jetzt, wie sie von oben die Gesellschaft so steuern können,
dass sie diesen Zwiebel-Effekt hinkriegen, den wir auch dabei sind,
zunehmend zu verlieren.
Und meine Befürchtung ist, dass dieses autoritäre Regime das im Zweifelsfall
besser hinkriegt als die total verzankten Regierungen, die wir hier im Westen noch haben.
Man muss aber glaube ich für das vollständige Bild dazu sagen,
ausgerechnet diese chinesische Gesellschaft, so kontrolliert von dieser chinesischen KP,
die sich auf die Fahnen schreibt, wir sind sozusagen das marxistische Modell,
bei uns sind im Wesentlichen alle gleich, ist ja interessanterweise die ungleichste
Gesellschaft überhaupt auf der Welt.
Das ist überhaupt keine marxistische Gesellschaft. Aber man tut die da Propaganda so, das meine ich.
Ja, aber der Kommunismus hat eine andere Funktion.
Also er hat eine ganz marxistische Funktion. Marxens Vorstellung einer kommunistischen
Gesellschaft war ein Maximum an politischer Freiheit, dafür hat er Zeit seines Lebens gekämpft,
bei einem Minimum an wirtschaftlicher Freiheit abschaffen, dass Leute andere Leute ausbeuten.
Das ist essential Kommunismus nach Marx. Und was ist in China?
Das ist genau das Gegenteil.
Ein Minimum an politischer Freiheit bei bisher einem relativen Maximum an wirtschaftlicher Freiheit.
Und es ist tatsächlich so, dass dieses Maximum an wirtschaftlicher Freiheit
offensichtlich eingeschränkt werden soll, um eine ausgewogenere Gesellschaft hinzubekommen.
Und ich bin jetzt sehr gespannt, die Chinesen, die ja auch eine ganze Reihe
von anderen wirtschaftlichen Problemen haben, Demografieproblemen.
Jugendarbeitslosigkeit. Ja, die haben halt den Widerspruch aus Jugendarbeitslosigkeit,
und zwar einer horrenden Jugendarbeitslosigkeit, obwohl sie eine stark abnehmende Demografie haben.
Richtig. Was unter anderem natürlich auch an der Hochtechnisierung liegt. Genau.
Und ein Schritt, den wir noch gerade vor uns haben. Also auch bei uns wird prognostiziert,
dass die Jugendarbeitslosigkeit sehr stark steigen wird.
Ja, deswegen. Und das ist für die Generation, für die bislang alles wie in Butter
war. Ja, also Life-Life-Balance, die kommen jetzt in eine Zeit der Jugendarbeitslosigkeit.
Das wird noch eine Menge mit diesem Land machen.
Genau da bist du, das spüren die offensichtlich instinktiv. Und genau da sind
wir und da schließe ich jetzt der Kreis bei Eric Schmidt und den Bundelstudenten in Arizona.
Das ist genau der Punkt. Es gibt eine Sache, Richard, nur noch einen letzten
Satz dazu. Ich würde gerne deine Einschätzung dazu hören.
Ich meine, all das zeichnet sich am Horizont klar ab.
Menschen, junge Menschen, die reden wir auch häufig darüber,
schlaue Menschen sind, die sich beschäftigen mit den Dingen,
die das intellektuell verstehen, die das auch emotional verstehen,
welche Bedrohung das ist und die auch entsprechend darauf reagieren.
Dem muss man doch zum Schluss eigentlich sagen, naja gut, wenn wir das alles
verstehen, was da am Horizont sich so abzeichnet, dann muss man doch eigentlich
sagen, das ist von Menschen gemacht und Menschen können es auch ändern.
Wir können als Menschheit eine Entscheidung treffen, ob wir diesen Weg gehen
wollen oder eben auch nicht. Nee, als Menschheit nicht, weil die Menschheit ist kein Akteur.
Die Menschheit, das ist so ein Kollektiv-Singular, der nichts entscheidet oder
so. Der hat keinen Briefkasten, da kann man nicht meckern.
Aber es sind Menschen, die am Ende oben stehen. Es sind Menschen,
die es entscheiden. Das ist richtig. Und die Menschen, die es im Augenblick
entscheiden, und zwar überall in der Welt.
Die gucken in allererster Linie eben darauf, in China ist das vielleicht noch
ein bisschen differenzierter, aber danach, die Wirtschaft braucht die Kohle,
das ist das große Feld der Zukunft und so weiter.
Und Bedenken halten den ganzen Laden auf.
Da hat man eben Angst, dass die Leute nicht richtig mitziehen und so weiter.
Erinnerst du dich an Digitalisierung first, Bedenken second,
was Christian Lindner mal hat plakatieren lassen.
Ja, interessanter Satz, der so viele Dinge sozusagen mitdenkt,
die, glaube ich, die Agentur, die sich das damals ausgedacht,
der gar nicht auf dem Zettel hat.
Ich will denen jetzt nichts unterstellen, aber ich will nur sagen,
der Satz, das ist ein böser Satz. Ja, aber es ist ein wahrer Satz.
Also es ist die Art und Weise, wie es weltweit vorangetrieben wird.
Richard, dank dir sehr. Ich danke dir auch, Markus. Es war spannend.
Ein bisschen dystopisch. Ich glaube ja immer noch daran, dass die Sache am Ende
gut ausgeht. Menschen entscheiden.
Ja. Also es gibt keine naturgesetzliche Vorherbestimmung des menschlichen Weltlaufs.
Und solange Menschen das entscheiden können, können Menschen auch noch gute
Entscheidungen treffen. Genau.
Also, Richard, wir hören uns nächste Woche. Dann erster Teil unserer Sommergespräche.
Florence Gaub wird zu Gast. Das passt sehr, sehr gut mit Blick auf die heutige Folge.
Ja, für Optimismus. Liebe, Hoffnung und Zuversicht. Sie ist die Hoffnungsbeauftragte,
nicht nur von uns beiden, sondern dieses ganzen Landes, würde ich sagen.
Ich freue mich sehr auf das Gespräch und auf dich nächste Woche,
Richard. Bis dahin. Tschüss. Ja, mach's gut. Tschüss. Ciao.
Lanz und Precht ist eine Produktion von M hoch 2.