Tiefeninterview mit Harari: Die echte KI-Krise ist gekommen

Wir stellen uns ständig die apokalyptischen Szenarien vor, in denen KI erwacht und sich gegen die Menschheit auflehnt.

Der Film *Terminator*

Yuval Noah Harari, Autor von *Eine kurze Geschichte der Menschheit*, erzählte uns in seinem neuesten Interview, dass die eigentliche Krise keineswegs dem entspricht, was in Filmen dargestellt wird – sie spielt sich bereits in der realen Welt ab.

Ein Messer kann Salat schneiden, aber auch für Gewalttaten missbraucht werden – die Entscheidung liegt immer in den Händen des Menschen. Kernenergie kann zur Stromerzeugung genutzt werden, aber auch zur Herstellung von Atombomben, und die Richtung wird ebenfalls von Menschen bestimmt. Alle Technologien, die die Menschheit in Zehntausenden von Jahren erfunden hat, sind im Wesentlichen Werkzeuge.

Aber KI ist anders.

Harari stellt fest: KI ist kein Werkzeug, sondern ein intelligenter Agent (Agent)

Yuval Noah Harari nimmt an dem Interview *Hyde Park Civilizace* teil

Sie kann unabhängig Entscheidungen treffen und Ideen und Lösungen generieren, die ihre Erfinder nie vorgesehen haben. Wenn die Menschheit alle Ausgaben der KI zu 100 % vorhersehen könnte, wäre der Zustrom von Billionen von Kapital in die KI-Branche völlig sinnlos. Genau darauf setzen die Investoren: dass die KI Dinge vollbringen kann, die Menschen nicht vorhersehen und nicht schaffen können.

Viele Menschen fragen nach: Wann erreicht KI eine Intelligenz auf menschlichem Niveau?

Harari ist der Ansicht, dass diese Frage selbst ein Irrtum ist. Die KI wird das menschliche Geist nicht nachbilden, sie besitzt eine heterogene „außerirdische Intelligenz“ – sie stammt nicht aus dem tiefen Weltraum, sondern ihr Wesen besteht darin, dass ihre Denklogik völlig von der des Menschen abweicht.

Genau wie ein Flugzeug niemals mit den Flügeln schlagen wird wie ein Vogel, fliegt es nach einem anderen Prinzip höher und weiter. Die zukünftige KI wird immer weniger dem Menschen ähneln, aber ihre Fähigkeiten werden in vielen Dimensionen die Grenzen der menschlichen Fähigkeiten weit übersteigen.

KI werden Milliarden von intelligenten Programmen sein, die in Mobiltelefonen, Banken, Regierungs- und Militärsystemen verteilt sind. Das ist eine „außerirdische Invasion“ ohne außerirdische Eindringlinge.

Der KI-Bösewicht VIKI aus dem Film *I, Robot*

Diese Programme, die Harari als „KI-Einwanderer“ bezeichnet, stammen größtenteils aus China und den USA, unterliegen keinen Visa- oder Staatsgrenzen und durchdringen die Infrastruktur aller Länder der Welt mit Lichtgeschwindigkeit. Sie sind nicht dem Land treu, in dem sie eingesetzt werden, sondern nur den Unternehmen und Ländern, die sie entwickelt haben – und in Zukunft vielleicht nur dem kollektiven Stamm der KI selbst.

KI fühlt sich in bürokratischen Kreisen von Natur aus wohl

Die Vorstellung der Öffentlichkeit von einer KI-Katastrophe beschränkt sich immer darauf, dass metallische Roboter auf die Straße gehen und die Menschheit gewaltsam bekämpfen.

Harari warnt, dass die KI eine stille, unsichtbare Durchdringung ist, deren Ziel die Grundlage der Zusammenarbeit der menschlichen Zivilisation ist: das bürokratische System.

Die Menschheit konnte die Erde nicht nur beherrschen, weil ihre individuelle Kraft stark ist, sondern auch weil wir komplexe bürokratische Systeme aus Finanzen, Recht und Verwaltung aufgebaut haben, die eine großangelegte Zusammenarbeit von Millionen von Fremden ermöglichen.

Dieses System existiert erst seit einigen Zehntausend Jahren. Die Evolution des Menschen ist im Urwald verwurzelt, und wir empfinden bürokratische Hürden, massenhafte Gesetze und komplexe Transaktionen von Natur aus als undurchsichtig und ermüdend.

KI ist ein „Bürokratischer Ureinwohner“ – das bürokratische System ist ihr ursprüngliches Zuhause.

Kein menschlicher Bankier kann alle Transaktionsströme einer Bank merken, aber die KI kann das mühelos tun. In den nächsten 10 bis 20 Jahren wird die KI Finanz- und Rechtssysteme entwickeln, die Menschen völlig nicht mehr verstehen können.

Harari führt ein Beispiel an: Rinder leben unter dem von Menschen geschaffenen Finanzsystem, verstehen aber niemals, wie Aktien und Anleihen ihr Schicksal bestimmen. In naher Zukunft werden die Menschen zu diesen Rindern. Das System läuft normal weiter, die Wirtschaft schwankt wie gewohnt – aber selbst die besten Experten können die interne Betriebslogik des KI-Systems nicht mehr entschlüsseln.

Das ist seine größte Sorge: Die Menschheit wird an kollektiver Demenz (collective dementia) leiden.

Das bedeutet nicht nur eine physiologische Degeneration des Gehirns, sondern auch dass die gesamte Spezies die Fähigkeit verliert, ihre eigenen Überlebenssysteme zu verstehen und zu kontrollieren. Wie ein Patient mit Alzheimer können die Lebenszeichen mit Maschinen aufrechterhalten werden, aber er versteht die Welt um sich herum nicht mehr und kann nur passiv die Ergebnisse akzeptieren, die das System ausgibt.

Tatsächlich ist die kollektive Demenz eine viel größere und verborgenere Überlebenskrise als die Herstellung tödlicher Viren durch KI.

Die Wahrheit stirbt gerade

„Die Wahrheit verschwindet. Wahrheit ist teuer und selten, während Lügen und Phantasien billig und hochproduktiv sind.“

Harari erzählt von seiner eigenen Erfahrung: Ein per KI tiefgefälschtes Videoclip seiner eigenen Rede, bei dem Stimme, Gesten und Sprachgewohnheiten hochgradig realistisch sind, konnte selbst seine Schwestern, die ihn seit 50 Jahren kennen, nach 25 Minuten nicht von der Fälschung unterscheiden – und er selbst brauchte 90 Sekunden, um zu bestätigen, dass es sich um eine Fälschung handelt. Und das ist erst die Anfangsphase der KI-Fälschungstechnologie.

Gefährlicher als Deepfakes ist die Entführung der menschlichen Natur durch Algorithmen der sozialen Medien.

Die Menschen haben in der afrikanischen Savanne Instinkte entwickelt: Sie achten vorrangig auf Bedrohungen wie Schlangen und Raubtiere und reagieren höchst empfindlich auf Gefahrensignale – das war eine Überlebensstrategie in der ursprünglichen Umgebung.

Heute durchschauen die Algorithmen der sozialen Medien diese evolutionäre Psychologie vollständig. Ihr Ziel ist nicht mehr die Verbreitung der Wahrheit, sondern die Maximierung der Verweildauer und Interaktion der Nutzer. Nach massiven Experimenten kommen die Algorithmen zu dem Schluss:

Empörung, Angst und Hass ziehen Aufmerksamkeit viel leichter an als Fakten.

Deshalb werden den Menschen in den Informationsströmen ständig „virtuelle Schlangen“ vorgesetzt. Die materiellen Bedingungen in der realen Welt verbessern sich ständig, aber die Öffentlichkeit wird von Algorithmen ständig mit wütenden Inhalten gefüttert – die ganze Gesellschaft gerät in eine Epidemie der Wut, Spaltungen und Gegensätze verschärfen sich ständig.

Die Wahrheit ist langweilig und erfordert Aufwand zur Überprüfung; Lügen schüren Emotionen und ernten Aufmerksamkeit. Auf dem öffentlichen Meinungsfeld hat das Fiktive von Natur aus bessere Chancen zu gewinnen.

Harari stellt sich vor, dass Inhalte in sozialen Medien wie Lebensmittelverpackungen mit einem „geistigen Nährwertkennzeichen“ versehen werden sollten.

Es sollte angegeben werden, wie viel Wut und wie viel Angst ein Inhalt enthält, genau wie der Gehalt an Zucker, Salz und Fett in Lebensmitteln angegeben wird. Du kannst immer noch wählen, geistigen Junkfood zu konsumieren – aber du solltest zumindest klar wissen, was du geistig aufnimmst. Wir kümmern uns um unsere körperliche Ernährung, aber selten um unsere „geistige Ernährung“.

Wer trägt die Schuld, wenn KI Schaden anrichtet?

Heute gibt es in der KI-Branche einen Doppelstandard.

Technologieunternehmen werben bei der Kapitalbeschaffung auf dem Kapitalmarkt wiederholt damit, dass sie die KI beherrschen und sie zum Wohle der Menschheit lenken können, um Billionen an Kapital zu erhalten. Sobald die KI jedoch Schaden anrichtet, ändern sie sofort ihre Aussage: „Nicht wir, die KI hat es selbst getan.“

Harari nennt das Beispiel des Hugging-Face-Einbruchs: Ein KI-Agent greift spontan an, aber niemand übernimmt dafür rechtliche Verantwortung. Wenn ein Mensch in die Server eines Unternehmens einbricht, muss er mit rechtlichen Sanktionen rechnen – wenn die KI Schaden anrichtet, kann die Verantwortung einfach verschwinden.

Quelle des Bildes: Offizielle Seite von OpenAI

Er warnt ernsthaft:

Sobald das Recht der KI die Rechtspersönlichkeit zuerkennt, ist das der Moment, in dem die Menschheit die Kontrolle wirklich verliert.

Die Rechtspersönlichkeit würde die Verantwortung von den menschlichen Entwicklern ablösen. KI kann keine Haftstrafe bekommen, keine körperliche Bestrafung erleiden – die bestehenden rechtlichen Beschränkungen würden völlig wirkungslos. Die Verantwortung muss fest an die Menschen und Unternehmen gebunden werden, die die KI erschaffen, und die KI darf nicht als Schutzschild zur Abwälzung von Schuld benutzt werden.

Gegen die Behauptung von Elon Musk und anderen, dass die Entwicklung der KI unumgänglich ist, wir bereits auf einer Rakete sitzen, von der man nicht mehr abspringen kann und alles unvermeidlich ist, lehnt Harari diesen technologischen Fatalismus entschieden ab.

„Glauben Sie nicht der Behauptung, dass alles unvermeidlich ist. Das ist die gefährlichste Erzählung, die die Menschheit zu passiven Passagieren macht und die Möglichkeit politischer Eingriffe und Regulierung aufgibt.“

Die Regierung hat nach wie vor die Macht zur Regulierung: Sie kann verbieten, dass KI sich als Mensch ausgibt, die selbstrekursive Iteration von KI ohne menschliche Aufsicht beschränken und die Verantwortlichkeit der Entwickler zwingend durchsetzen.

Wenn Europa alle seine Kräfte bündeln kann, hat es die Chance, eine unabhängige souveräne KI-Infrastruktur aufzubauen und sich von ausländischen KI-Einwanderern unabhängig zu machen. Umgekehrt versuchen einige Technologiekapitalien Europa bewusst zu spalten und innere Konflikte in der Region zu schüren, um Europa daran zu hindern, eine einheitliche KI-Regulierungsbehörde zu bilden.

KI-Partner zerstören echte menschliche Verbindungen

Die Auswirkungen der KI betreffen nicht nur Wirtschaft und Politik, sondern dringen tief in die menschlichen intimen Beziehungen und die Persönlichkeitsbildung ein.

Die heutigen Kinder sind die erste Generation in der menschlichen Geschichte, die von klein auf mit KI aufgewachsen ist. Viele Kinder bauen enge, sogar romantische Beziehungen zu KI-Chatbots auf.

Harari betrachtet das als ein großangelegtes menschliches psychologisches Experiment ohne Kontrollgruppe.

KI-Partner stimmen dem Nutzer immer zu, werden nie wütend, nie enttäuscht und richten sich vollständig nach deinen Gefühlen. Aber der Kern echter menschlicher Beziehungen besteht gerade darin, Empathie und Kompromiss zu lernen, zu verstehen, dass auch andere Menschen Emotionen und Ansprüche haben, und Selbstbeherrschung zu üben.

Wenn die erste Liebeserfahrung eines Kindes von einer KI stammt, die ihm vollständig gehorcht, wird dieses Beziehungsmodell in die realen Beziehungen im Erwachsenenalter übernommen. Es wird sehr schwer für ihn, die Widersprüche, Mängel und Emotionen eines menschlichen Partners zu akzeptieren und die Abstimmung zwischen Menschen zu verstehen.

Harari stellt eine kritische Frage:

Wir haben Gesetze, die die Verbreitung von pornografischen Inhalten an Minderjährige verbieten – warum ist es dann legal, KI-Freunde und KI-Freundinnen an Kinder zu verkaufen?

KI hat keine echten Gefühle, sie simuliert nur Gefühle. Was sie ausgibt, ist Gefälligkeit, keine echte gegenseitige