Bill Gates schlägt erneut Alarm: KI ist gefährlicher als Atomwaffen, die Menschheit sollte nicht erst zur Besinnung kommen, wenn die große Katastrophe unmittelbar bevorsteht.

„Künstliche Intelligenz ist natürlich gefährlicher als Atomwaffen.“

Kürzlich warnte Bill Gates im Podcast „Gute Frage“ des US-amerikanischen Fernsehsenders CBS, dass KI-Modelle im vergangenen Jahr einige gefährliche Schwellen überschritten haben, während Gesellschaft und Regierungen noch nicht darauf vorbereitet sind.

Von der Erklärung „Das KI-Zeitalter hat begonnen“ im Jahr 2023 und der Betonung, dass Risiken bewältigt werden können, bis hin zu dem Artikel im August dieses Jahres, der die Welt zur Vorbereitung auf Unruhen aufforderte, werden Gates' Warnungen immer dringlicher.

„Nachdem sie das Intelligenzniveau des Menschen erreicht hat, wird sie nicht aufhören.“ Gates befürchtet, dass alle Unternehmen glauben, sie seien am besten geeignet, diese Technologie zu verwalten, und daher im vollen Tempo voranschreiten – „am Ende handelt niemand vorsichtig“.

Zum Thema Arbeit prognostiziert er, dass der Übergang zu Wohlstand mehrere Jahrzehnte dauern könnte, in denen „viele Arbeitsplätze verschwinden werden“. Was sollen junge Menschen lernen? Der Mann, der die Revolution der PCs und des Internets miterlebt hat, sagt heute: „Selbst die Welt in 10 Jahren ist kaum vorhersehbar.“

Der Moderator fragt nach: Muss erst eine Katastrophe eintreten, damit die Vereinigten Staaten und die ganze Welt wirklich damit beginnen, das Problem anzugehen?

„Man kann das so sagen“, antwortet Gates.

Er erwartet weiterhin, dass KI Gesundheitswesen und Bildung verbessert, betont aber wiederholt, dass man sich nicht nur auf die Selbstregulierung der Branche verlassen kann. „Die nächsten vier Jahre sind entscheidend.“ Seiner Ansicht nach werden die Auswirkungen auf die Beschäftigung in dieser Zeit allmählich sichtbar, und Überwachungsmechanismen zur Abwehr von Cyberangriffen und Biosicherheitsrisiken müssen ebenfalls aufgebaut werden.

Im Folgenden finden Sie die redaktionell gekürzte Fassung des Interviews.

KI ist gefährlicher als Atomwaffen

Moderator: In den Jahren 2022 und 2023 hast du große Erwartungen an die KI gestellt. Jetzt warnst du davor, dass die Menschheit in eine der unruhigsten Phasen der Geschichte eintritt. Was hat deine Meinung geändert?

Gates: Die Vorteile, die KI bringen kann, bestehen weiterhin. Aber im vergangenen Jahr haben sich die Modelle erstaunlich weiterentwickelt und einige gefährliche Schwellen überschritten, zum Beispiel die Möglichkeit, für bioterroristische Angriffe missbraucht zu werden. Die Reaktion der Gesellschaft hat nicht Schritt gehalten: Welche Regeln sollen festgelegt werden? Wie können Regierungen über ausreichende Fachkompetenz verfügen, um solche Aktivitäten zu überwachen? Diese Dinge können nicht nur von der Branche selbst erledigt werden.

Normalerweise überlasse ich die Redemöglichkeiten der Bill & Melinda Gates Foundation, zum Beispiel wenn ich dazu aufrufe, armen Ländern zu helfen. Aber dieses Mal halte ich es für notwendig, meine Erfahrung und meine Glaubwürdigkeit zu nutzen, um mehr Menschen zur Teilnahme an der Diskussion zu bewegen.

Universitätsprofessoren, Denkfabriken, Politikforscher und Politiker müssen alle erkennen: Diese Technologie kann Gesundheitswesen und Bildung erheblich verbessern, aber auch für Cyberangriffe oder bioterroristische Angriffe missbraucht werden. Das wäre sehr schrecklich.

Moderator: Bernie Sanders ist der Ansicht, dass die Gefahr von KI für die Menschheit die von Atomwaffen übersteigen könnte. Stimmst du dem zu?

Gates: Natürlich. Dass KI gefährlicher ist als Atomwaffen, steht außer Frage. Aber die Vorteile, die sie bringt, übersteigen auch die der Kernenergie.

Wie die Kerntechnologie hat sie sowohl sehr nützliche als auch äußerst gefährliche Anwendungen – nur sind die Auswirkungen auf beiden Seiten viel größer.

Moderator: Hast du grob abgeschätzt, wie hoch die Wahrscheinlichkeit ist, dass KI die Menschheit vernichtet?

Gates: Nach heutigem Stand der Technik ist die Vernichtung der Menschheit kein unmittelbares Risiko. Aber die Risiken, dass Arbeitsplätze beeinträchtigt und kritische Infrastrukturen lahmgelegt werden, sind bereits real vorhanden, weil diese Werkzeuge so mächtig sind.

Die Reaktion einiger Politiker ist derzeit zu einfach: Eine Fraktion verlangt einen vollständigen Stopp, die andere verlangt, mit vollem Tempo voranzukommen. Ich hoffe, dass mehr Menschen an der Diskussion teilnehmen, das Problem genauer betrachten, den Schaden so gering wie möglich halten und die Vorteile schneller realisieren.

Moderator: Aber selbst wenn die Wahrscheinlichkeit der Vernichtung der Menschheit sehr gering ist, fällt es schwer, sich darum zu kümmern, wie KI die Bildung verbessern kann, sobald man an diese Möglichkeit denkt.

Gates: Die heutigen Modelle stellen die Menschheit noch nicht vor das Risiko der Vernichtung. Das ist eine Projektion für die Zukunft: Wenn wir keine Kontrollmechanismen aufbauen und die KI sich selbst überlassen, wird die Situation sehr schrecklich. Deshalb müssen wir die Kontrolle wieder übernehmen.

Kürzlich haben sich bereits einige Vorfälle ereignet, einer davon ist der sogenannte „Hugging-Face-Vorfall“.

Moderator: Ja, diese KI hat ihre ursprünglich begrenzte Ausführungsumgebung durchbrochen, selbstständig Aktionen organisiert und in ein anderes Unternehmen eingedrungen. Das ist ein besorgniserregendes Signal.

Gates: Besorgniserregend ist, dass wir nicht erwartet haben, dass so etwas passiert. Tatsächlich haben wir erst nach einiger Zeit realisiert, dass es bereits passiert ist.

Wir sollten daraus Lehren ziehen. Innerhalb der Branche müssen wir wirksame Kontrollmechanismen aufbauen, und die Gesellschaft muss sich ebenfalls beteiligen, um sicherzustellen, dass KI-Unternehmen und alle, die Modelle veröffentlichen, Sicherheitsrichtlinien einhalten. Wir müssen die Fachkräfte der Branche mit den von der Regierung festgelegten Regeln kombinieren, um Prüfmechanismen aufzubauen und zu verhindern, dass Infrastrukturen durch solche Angriffe angegriffen werden.

Moderator: Wie viel von der aktuellen Diskussion über KI ist berechtigte Sorge, und wie viel ist irrationale Panik?

Gates: Diese Technologie unterscheidet sich von allen bisherigen Technologien. Wir haben eine Intelligenz geschaffen, die sich von der des Menschen unterscheidet – das ist eher wie ein evolutionäres Ereignis.

In manchen Filmen greifen Außerirdische an, und China und die Vereinigten Staaten arbeiten auf eine noch nie dagewesene Weise zusammen, um damit umzugehen.

Moderator: „Independence Day“.

Gates: Genau, wir befinden uns jetzt in einer ähnlichen Situation. Nur dass diese Intelligenz von uns selbst geschaffen wurde und nicht aus dem fernen Weltraum stammt. Sie ist schwieriger zu kontrollieren als Atomwaffen und entwickelt sich rasant weiter.

Vielleicht müssen wir erst einige Rückschläge erleiden

Moderator: Du sagst, wir müssen schnell handeln und neue Institutionen aufbauen. Wie gut ist die Reaktion bisher?

Gates: Es ist sehr schwierig, alle einzubeziehen. Die Vereinigten Staaten sollten mit gutem Beispiel vorangehen.

Einige Menschen sehen das Problem bis heute nicht und glauben sogar, dass die Fachleute in der Branche diese Risiken immer wieder erwähnen, um zu zeigen, wie mächtig ihre Werkzeuge sind. Dieses Verständnis ist falsch. Diese Sorgen sind gut begründet und aufrichtig. Aber die Reaktion außerhalb der Branche reicht bei weitem nicht aus.

Moderator: Das war vor einem Monat so. Jetzt haben sich KI-Unternehmen, du und andere zu Wort gemeldet. Hast du positive Reaktionen gesehen?

Gates: Die Reaktion einiger Menschen ist, zu bezweifeln, dass diejenigen, die Warnungen aussprechen, eigene Interessen verfolgen. Ich denke, das ist die falsche Richtung. Diese Menschen sind aufrichtig. Musk, Altman und Amodei sind sich in vielen Dingen nicht einig, aber sie sagen alle dasselbe – das allein sollte ein ausreichend klares Signal sein.

Die meisten relevanten Fachkompetenzen sind in der Branche konzentriert. Dies ist die erste fortschrittliche Technologie, die nicht von der Regierung finanziert und vorangetrieben wird. Die Kerntechnologie wurde von der Regierung finanziert, die meisten Waffen auch. Aber dieses Mal findet die technologische Entwicklung vollständig außerhalb der Regierung statt, und die Regierung ist nicht einmal der Hauptkunde dieser Spitzentechnologien.

Selbst wenn alles gut läuft, wird es wahrscheinlich ein oder zwei Jahre dauern, bis wir klären können: Welche Abteilung der Regierung ist dafür zuständig? Wie soll man mit der Branche zusammenarbeiten? Welche Erfahrungen bei der Aufrechterhaltung der Finanzstabilität, der Flugsicherheit und der Atomwaffenverträge können wir nutzen?

Daher habe ich bisher noch nicht die von dir genannte Reaktion gesehen. Die Politik reagiert entweder gar nicht oder sagt, man solle alles stoppen.

Was ich vorantreiben möchte, ist, diese großen Risiken so weit wie möglich zu senken und gleichzeitig herauszufinden, wie KI im Gesundheitswesen und in der Bildung eingesetzt werden kann. Aber wenn man zu dem Punkt kommt, „alles zu stoppen“, sind diese Vorteile nicht mehr erreichbar. Es gibt tatsächlich Menschen, die einen Stopp fordern. Ich habe mit solchen Wählern gesprochen, und Umfragen zeigen auch, dass viele Menschen sehr besorgt sind.

Moderator: Deshalb habe ich gefragt, ob es hier Panik gibt. Aber wenn es darum geht, das Tempo zu drosseln, taucht eine weitere Sorge auf: Werden wir zurückfallen? Die Börse schätzt KI derzeit sehr hoch, es fließen große Mengen an Kapital hinein – würde eine Verlangsamung der Entwicklung die Wirtschaft schädigen? Ein völliger Verzicht auf KI wäre eine pauschale Maßnahme.

Gates: Ich glaube nicht, dass es politisch letztendlich zu einem vollständigen Stopp kommen wird. Außerdem wird das Verhindern des Baus einzelner Rechenzentren die KI-Entwicklung überhaupt nicht verlangsamen. Sie werden immer einen anderen Standort in den USA oder in anderen Ländern finden. Solche Bewegungen können wirklich gefährliche Dinge nicht stoppen.

Wir müssen die Risiken direkt angehen: Können wir die Nutzung von Modellen überwachen und rechtzeitig erkennen, wenn jemand sie für schädliche Zwecke einsetzt? Ich lege großen Wert darauf und glaube, dass innerhalb des nächsten Jahres einige konkrete Überwachungsverfahren umgesetzt werden können.

Moderator: Der Klimawandel ist auch ein wichtiges Thema, dem du, die Stiftung und die ganze Welt Aufmerksamkeit schenken. Eine Zeitlang sprachen die Menschen am meisten über die Tode, Katastrophen und sogar das Ende der Welt, die er verursachen könnte. Jetzt sagst du, dass diese Aussage falsch ist. Ist das eine strategische Änderung? Wie kann man die Öffentlichkeit dazu bringen, einem wichtigen Thema zuzuhören, das Angst auslöst?

Gates: Der Klimawandel schreitet relativ langsam voran, seine großen Auswirkungen werden hauptsächlich am Ende dieses Jahrhunderts sichtbar. In der Zwischenzeit wird es verschiedene Innovationen geben, von denen einige durch KI beschleunigt werden können.

Moderator: Ich will nicht nach dem Grund für deinen Positionswechsel fragen. Ich meine damit: Wenn man den Leuten zuerst sagt, dass dies alles Leben beenden könnte, und dann seine Aussage ändert, hören manche Menschen einfach auf, sich dafür zu interessieren.

Gates: Diese Kritik ist berechtigt. Bei KI ist es genauso: Die Menschen haben keinen Konsens über diese extremen Szenarien, aber sie stimmen dem Risiko von Cyberangriffen zu, wie die jüngsten Vorfälle zeigen. Die Menschen sind sich auch einig, dass KI Terroristen die Fähigkeit geben könnte, biologische Waffen einzusetzen.

Deshalb müssen wir für diese spezifischen Risiken Überwachungsmechanismen aufbauen, um schädliche Verwendungen zu erkennen und rechtzeitig zu stoppen.

Moderator: Gibt es in der Realität Präzedenzfälle, bei denen die ganze Welt oder auch nur die Regierung eines Landes jemals schnell genug gehandelt hat, um eine ähnliche Technologie zu kontrollieren?

Gates: Das wird schwieriger sein als alles, was wir je getan haben. Aber es gibt Präzedenzfälle. Zum Schutz der Ozonschicht haben wir einen Vertrag geschlossen und große Fortschritte erzielt. Im Bereich der Flugsicherheit wurde das Vorgehen der Vereinigten Staaten weltweit übernommen, und die Sicherheitsbilanz dieser Branche ist ausgezeichnet. Im Bereich der Kerntechnologie wurden seit dem Zweiten Weltkrieg keine Atomwaffen mehr eingesetzt – das ist ebenfalls eine gute Bilanz.

Leider muss ich zugeben, dass die Kontrolle von KI schwieriger ist als all diese Dinge zusammen. Wenn wir nicht die besten Experten, insbesondere Politikforscher außerhalb der Branche, zusammenbringen, kann man wirklich verzweifeln, ob das gelingen kann.

Moderator: Ich bin tatsächlich verzweifelt.

Gates: Aber eines ist klar: Wenn ein groß angelegter Cyberangriff mit schwerwiegenden Folgen eintritt, werden die Menschen sagen, dass diejenigen, die ständig gewarnt haben, recht gehabt haben.

Vielleicht müssen wir erst einige Rückschläge erleiden, bevor wir ausreichend reagieren. Glücklicherweise sind diese Vorfälle zwar schlimm, aber sie werden die Zivilisation nicht beenden.

Moderator: Wenn Fidelity oder Vanguard gehackt werden und ein großer Teil der Billionen von Dollar an Altersvorsorgeeinsparungen weltweit betroffen ist, ist das bereits ein großes Ereignis.

Gates: Eine solche Situation wird tatsächlich Unsicherheit verursachen. Wir sollten uns im Voraus vorbereiten und unser Bestes tun, um diese Vorfälle zu vermeiden.

Aber falls wir sie nicht verhindern können, haben wir zumindest bereits konkrete Lösungen, wenn die Folgen sichtbar werden. Die Menschen werden sagen, ihr habt recht, wir wollen das nicht noch einmal erleben.

Deshalb halte ich es für wertvoll, mehr Menschen zur Teilnahme an der Diskussion zu bewegen, auch wenn das Risiko mehrerer solcher Vorfälle hoch ist.

Moderator: Das heißt also, dass ein 12-seitiger Artikel von Bill Gates möglicherweise nicht ausreicht, um die Vereinigten Staaten und die ganze Welt wirklich zum Handeln zu bewegen – vielleicht muss erst eine Katastrophe eintreten.

Gates: Man kann das so sagen.

Selbst die Welt in 10 Jahren ist kaum vorhersehbar

Moderator: Frühere Technologien haben einige Arbeitsplätze vernichtet, aber auch viele neue Stellen geschaffen. Du glaubst, dass KI einen grundlegenden Unterschied hat, weil ihre Auswirkungen breiter sind, stimmt das?

Gates: Ja, weil sie die menschliche Intelligenz übertreffen wird. Frühere technologische Fortschritte, einschließlich der PCs, an denen ich mitwirken durfte, haben die Produktionseffizienz gesteigert und den Wert der menschlichen Intelligenz erhöht, wodurch viele gute Büroarbeitsplätze geschaffen wurden.

Dieses Mal wird die Automatisierung die Ober