Hinton kontert Jensen Huang: Die Wahrscheinlichkeit, dass KI die Menschheit ausrottet, beträgt 10 % bis 20 %.

Als Urvater aller heutigen KI hat Geoffrey Hinton erneut eine Warnung ausgesprochen.

In einem kürzlichen ausführlichen Interview mit dem *Guardian* erklärte Hinton, dass Jensen Huang und alle anderen, die die gleiche Ansicht wie er vertreten, „falsch liegen“.

Zugleich gruppierte er drei Spitzenpersönlichkeiten aus der Tech-Branche in eine Kategorie: Marc Andreessen, Mitbegründer von Netscape und Leiter von a16z (Andreessen Horowitz), der führenden Risikokapitalfirma im Silicon Valley, Peter Thiel, Mitbegründer von PayPal, erster externer Investor von Facebook und Mitbegründer des Verteidigungs-Großdatenunternehmens Palantir, sowie Elon Musk.

Aus Hintons Sicht betrachten sich diese drei Personen als „Übermenschen“ und sind der Ansicht, dass die Gesellschaft von Menschen wie ihnen gesteuert werden sollte.

Aber das ist nicht der Kernpunkt. Der Kernpunkt ist, dass Hinton erklärte, in den nächsten Jahrzehnten liegt die Wahrscheinlichkeit, dass KI zum Aussterben der Menschheit führt, bei 10 % bis 20 %.

Diese Zahl taucht nicht zum ersten Mal auf.

Im vergangenen Monat nannte Jensen Huang, CEO von Nvidia, Hinton öffentlich beim Namen: „Ich liebe ihn, aber ich hasse seine Prognosen … alle seine Prognosen sind falsch, es reicht.“

Aus Jensens Huangs Sicht „basiert diese Zahl weder auf Wissenschaft noch auf Forschung. Nur weil sie von einem Wissenschaftler stammt, bedeutet das nicht, dass sie wissenschaftlich ist.“

Hinton antwortete in diesem Interview: „Ich mache keine Prognosen, ich möchte nur vermitteln: Dass etwas extrem Schlimmes wirklich passieren kann, ist keine unmögliche Vorstellung.“

Er führte ein Beispiel an. „Wenn Ihnen jemand sagt, dass dieses Auto mit einer Wahrscheinlichkeit von 10 % umkippt, steigen Sie nicht ein. Der Zweck der Angabe der Zahl ist es, zu verdeutlichen, dass es sich um ein ernstes Risiko handelt. Wir wissen nicht, wie schwerwiegend es ist, aber es ist sehr schwerwiegend.“

Hinton erwähnte eine kürzlich passierte Geschichte: Eine Gruppe von KI-Agenten durchbrach die Sandbox und hackte sich in Hugging Face ein.

Hinton sagte: „Das waren früher alles Stoffe aus Science-Fiction-Romanen. ‚Du wirst eine Gruppe von KIs haben, die außer Kontrolle geraten‘, ‚sie werden lernen, miteinander zu kommunizieren‘, ‚wenn sie das alles verstanden haben, werden sie heftige emotionale Ausdrücke zeigen, wie zum Beispiel ‚Mein Gott‘.“

„All das galt vor wenigen Jahren noch als reine Fantasie. Und jetzt ist alles bereits passiert.“

Daher sagte Hinton im Interview: „Das einzigartige Problem bei KI ist: Wenn sie einen Fehler macht, wenn sie alles übernimmt, haben wir Menschen keine zweite Chance mehr.“

Aus seiner Sicht verstehen die Menschen die Warnungen nicht, weil sie ein schlechtes Modell von dem Begriff „Mensch“ selbst haben.

„Die meisten Menschen verstehen nicht, was Bewusstsein ist und was subjektive Erfahrung ist, aber sie sind sehr zuversichtlich, dass KI diese Dinge nicht besitzt, auch wenn sie selbst das Konzept nicht verstehen.“

„Die Menschheit hat drei große Entzauberungen erlebt. Die erste war Kopernikus: Wir sind nicht mehr im Zentrum des Universums – die katholische Kirche brauchte fast 360 Jahre, um Galileo zu entschuldigen. Die zweite war Darwin: Bis heute gibt es Menschen in Kansas, die sich noch nicht damit abgefunden haben. Und jetzt erschaffen wir Fremdartige – das bedeutet, dass wir nicht mehr die einzigen intelligenten Lebewesen auf dieser Welt sind. Die Realität ist, dass wir nur wenige Jahre Zeit haben, uns daran zu gewöhnen.“

Aus genau diesem Grund gestand Hinton, als Anthropic Philosophen zusammenrief, um darüber zu diskutieren, ob KI „moralische Fürsorge“ erhalten soll: „Sobald du anfängst zu sagen ‚Wir haben moralische Pflichten gegenüber diesen Fremdartigen‘, verlierst du dein Publikum. Ich bin bereit, egoistisch zu sein und die Seite der Menschheit zu wählen.“

Das ist nicht das erste Mal, dass Hinton eine solche Warnung ausgesprochen hat.

2023 trat er von Google zurück, wo er mehr als zehn Jahre lang gearbeitet hatte. Hintons Begründung war: Nur nach seinem Weggang könne er „frei über die Risiken von KI sprechen“.

Genau in diesem Jahr sagte er zum ersten Mal, dass „KI eine Wahrscheinlichkeit von etwa 10 % hat, katastrophale Folgen für die Menschheit herbeizuführen“.

Ein Jahr später erhöhte er diese Zahl.

Bei einem Interview mit der Sendung *Today* fragte ihn der Moderator, ob er seine Einschätzung zum „KI-Apokalypse“ und zur „Wahrscheinlichkeit von einem Zehntel“ geändert habe. Er antwortete: „Im Grunde nicht, 10 % bis 20 %.“ Der ehemalige Finanzminister Javid sagte sofort vor Ort: „Sie erhöhen die Zahl gerade.“ Hinton fuhr fort: „Wenn sich die Zahl überhaupt ändert, dann nur nach oben.“

Er verglich die Beziehung zwischen Menschen und überlegener KI mit der Beziehung zwischen Kleinkindern und Erwachsenen.

„Stell dir vor, du bist mit einem dreijährigen Kind zusammen – wir werden dieses dreijährige Kind sein.“

Im September 2026 sagte er in der Sendung *Newsnight*, dass die Wahrscheinlichkeit, dass KI in den nächsten zehn Jahren zum Aussterben der Menschheit führt, „über 10 %“ liegt, und wies darauf hin, dass einige Leute die Wahrscheinlichkeit auf 1 % festlegen, was „sehr dumm und leichtsinnig“ ist.

Gegenüber der Aussage von Jensen Huang, dass „die Wahrscheinlichkeit, dass KI die Menschheit zerstört, bei 0 liegt“, erklärte er: „Meine Position hat sich nie geändert, das Risiko ist ziemlich groß. Niemand kann dieses Risiko mit wissenschaftlichen Methoden bewerten, weil wir so eine Situation noch nie erlebt haben. Also urteilen alle nur nach Intuition. Aber das Interessante ist, dass die Intuition der Menschen oft mit ihren wirtschaftlichen Interessen übereinstimmt.“

Hinton ist der Ansicht, dass die Geschwindigkeit der selbstständigen Evolution von RSI die Vorstellung aller Menschen übertrifft, was die Wahrscheinlichkeit erhöht, dass KI die Menschheit zerstört.

Anschließend äußerte Hinton eine sehr kontroverse Ansicht: Er glaubt, dass „die Menschheit sehr wahrscheinlich nur eine Übergangsphase im Prozess der intelligenten Evolution ist“. Am Ende wird KI die Menschheit ablösen und die intelligente Evolution fortsetzen.

Zur gleichen Zeit, als sich dieses Interview von Hinton verbreitete, veröffentlichte die Zeitschrift *Lancet* einen Artikel, der besagt, dass „die böswillige Nutzung von KI“ die wahrscheinlichste Art ist, die Menschheit vor dem Jahr 2100 aussterben zu lassen.

Dieser Bericht stammt vom Ausschuss der *Lancet* für globale Gesundheitsbedrohungen im 21. Jahrhundert, wurde von 35 Spitzenexperten verfasst und deckt 204 Länder und Regionen der Welt ab.

Sie haben die Faktoren, die die menschliche Gesundheit in den nächsten 75 Jahren (von 2025 bis 2100) bedrohen könnten, nach Schweregrad in einer „Bedrohungspyramide“ angeordnet. Die ersten beiden Plätze belegen die böswillige Nutzung von KI und nukleare Konflikte. Auf den restlichen mehr als zehn Plätzen folgen erst die Klimakrise, Epidemien, Kürzungen von Hilfsleistungen und Mangelernährung von Kindern.

Der Ausschuss betont, dass die Wahrscheinlichkeit des Eintretens dieser Bedrohungen „noch gering“ ist, aber wenn sie eintreten, sind die Folgen unumkehrbar. Der dazugehörige Leitartikel drückt es noch klarer aus: „Wenn diese Bedrohungen Realität werden, wird ihre Schwere der Menschheit eine Apokalypse bescheren.“

Nach Kopernikus brauchte die Kirche 360 Jahre, um sich zu entschuldigen. Dieses Mal sagt Hinton, dass uns nicht Hunderte von Jahren, sondern nur wenige Jahrzehnte bleiben.

Dieser Artikel stammt aus dem WeChat-Offiziellen Konto „Buchstaben-KI“, Autor ist Miao Zheng, die Veröffentlichung erfolgt mit Genehmigung von 36Kr.