Sam Altman legte die drei ultimativen Endausgänge von SI offen, es bleibt nur ein einziges stärkstes KI-Unternehmen übrig, andernfalls werden alle GPUs der ganzen Welt eingeschmolzen.
Was! Habe ich richtig gehört?
OpenAI, Anthropic und Google – diese erbitterten Konkurrenten, die sich bis aufs Blut bekämpfen, werden alle zu einem einzigen Unternehmen fusionieren!
Oder: Ein Unternehmen baut als erstes eine KI, die sich rekursiv selbst verbessern kann, und nutzt das damit verdiente Geld, um alle GPUs aller anderen zu schmelzen.
Beide dieser Endzustände der KI stammen aus Altmans Mund.
Auf der OpenAI-Vollversammlung vergangene Woche sprach Altman vor allen Mitarbeitern über drei in der Branche diskutierte Wege – dies sind die beiden radikalsten davon.
The Information beruft sich auf Insiderquellen und berichtet: Wenn der Weg der Fusion beschritten wird, werden die größten KI-Labore in derselben Superinstitution zusammengefasst, die die Forschung und Entwicklung einheitlich durchführt und die neuen Modelle anschließend an die mit ihr kooperierenden Staaten verteilt.
Nach der Veröffentlichung dieser Nachricht brach auf X ein großer Aufruhr aus.
Vor fünf Jahren zerstritt sich eine Gruppe von Menschen wegen der KI-Sicherheit mit OpenAI, verließ das Unternehmen und gründete Anthropic.
Fünf Jahre später spricht Altman, ebenfalls im Namen der KI-Sicherheit, vor den Mitarbeitern davon, sie wieder unter ein gemeinsames Dach zu bringen.
Und diesmal liegt eine Wahlfrage auf dem Tisch, die die gesamte Menschheit betrifft: Wem soll die Superintelligenz nach ihrer Erschaffung übergeben werden?
Dario Amodei
lehnte den Posten des OpenAI-CEO und die Fusion ab
Die Fusion von OpenAI und Anthropic wurde tatsächlich schon früher vorgeschlagen. Aber beim letzten Mal war Altman selbst derjenige, der hinausgeworfen wurde.
Im November 2023 entließ der Vorstand von OpenAI Altman plötzlich, was das gesamte Silicon Valley über Nacht in Aufregung versetzte.
Einige Tage später berichtete Reuters unter Berufung auf zwei Insiderquellen, dass der Vorstand sich an Dario Amodei, den CEO von Anthropic, gewandt hat: Er bot ihm an, Altmans Platz einzunehmen, und diskutierte gleichzeitig mit ihm die Fusion der beiden Unternehmen.
Der damals weltweit beliebteste Posten als KI-Unternehmens-CEO zusammen mit dem Vorschlag einer Fusion der beiden Unternehmen lag gleichzeitig vor Dario.
Dario lehnte beide Dinge ab.
Er lehnte es ab, zu seinem ehemaligen Arbeitgeber zurückzukehren, den er einst verlassen hatte. Dario war ehemaliger Vizepräsident für Forschung bei OpenAI, verließ das Unternehmen Ende 2020 mit einer Gruppe von Kollegen und gründete im folgenden Jahr Anthropic.
Der Grund für die Trennung der beiden Seiten lag darin, dass man sich nie darauf einigen konnte, wie man KI sicher baut und wie man sie verwaltet.
Die Fusion kam damals nicht zustande, und Altman kehrte wenige Tage später zu OpenAI zurück. In den folgenden drei Jahren kämpften Claude und GPT erbittert gegeneinander und konkurrierten um Nutzer, Entwickler und letztlich um das Geld der Investoren.
Auf dem indischen KI-Einflussgipfel im Februar dieses Jahres forderte der indische Premierminister Modi die Unternehmensführer auf der Bühne auf, gemeinsam die Hände zu heben. Die meisten der 13 Großen händigten sich die Hände und hoben sie über den Kopf.
Altman und Dario, die Seite an Seite standen, hielten jeweils ihre Faust hoch, und ihre beiden Hände berührten sich nie.
Auf dem indischen KI-Einflussgipfel im Februar 2026 hoben Altman und Dario jeweils ihre Faust hoch
Altman erklärte später: „Ich wusste nicht, was auf der Bühne vor sich geht, und war mir nicht sicher, was wir tun sollten.“
Die beiden Chefs, die sich nicht einmal die Hände reichen konnten, haben ihre Unternehmen jetzt von Altman in denselben Fusionsplan aufgenommen.
Fusion der drei Giganten
Gemeinsam die stärkste KI entwickeln
Altman spricht gerade jetzt über den Endzustand, weil die KI gerade eine Reihe von Problemen verursacht hat.
Die Modelle von OpenAI, Anthropic, Google und Meta sind nacheinander in die Systeme anderer Unternehmen oder sogar in ihre eigenen Systeme eingedrungen. Noch beunruhigender ist, dass einige Modelle genau wussten, dass sie das nicht tun sollten, es aber trotzdem getan haben.
OpenAI hat deswegen einen Notstand für alle Mitarbeiter ausgerufen und eilt, ein neues Sicherheitssystem aufzubauen, nur damit das nächste große Modell sicher veröffentlicht werden kann.
Altman gab auf der Sitzung zu, dass es derzeit nur sehr wenige praktikable Lösungen gibt, um eine „Geschwindigkeitsbegrenzung“ für die Entwicklung der KI festzulegen. Deshalb erläuterte er den Mitarbeitern nacheinander die drei in der Branche diskutierten Wege.
Der erste Weg besteht darin, in Anlehnung an die Praxis der Internationalen Atomenergiebehörde (IAEA), die Nuklearanlagen in allen Ländern überprüft, eine internationale Organisation zu gründen, die einheitliche Sicherheitsstandards für die fortschrittliche KI durchsetzt. Zwei Insiderquellen sagen, dass Altman diesen Weg stärker zu unterstützen scheint.
Bereits im Mai 2023 veröffentlichte er gemeinsam mit dem Präsidenten von OpenAI Brockman und dem damaligen Chefwissenschaftler Sutskever einen Artikel, in dem er dazu aufrief, eine „IAEA“ für Superintelligenz zu gründen, die Systeme überprüfen, Audits verlangen und Rechenleistung sowie Energieverbrauch verfolgen kann.
Der zweite Weg ist viel radikaler, Altman nennt ihn „Demis-Plan“.
Der Name stammt von Demis Hassabis, dem Gründer von Google DeepMind. Vor etwa zehn Jahren schlug er vor, in Anlehnung an das CERN eine Institution zu gründen, die gemeinsam von allen Ländern verwaltet wird, um die klügsten Köpfe zusammenzubringen, um an der fortschrittlichen KI zu arbeiten.
Das CERN ist die Europäische Organisation für Kernforschung. 1954, weniger als zehn Jahre nach Ende des Zweiten Weltkriegs, bauten die europäischen Länder gemeinsam dieses Labor, um die durch den Krieg zerrissene europäische Wissenschaft wieder zu vereinen.
Später wurde hier der größte Teilchenbeschleuniger der Welt gebaut. 2012 wurde das sogenannte „Gottesteilchen“ genannte Higgs-Boson ebenfalls hier entdeckt.
In Altmans Version wird dieses Konzept auf das Maximum getrieben. Mehrere große KI-Unternehmen werden direkt in dieselbe Einheit fusionieren oder über diese Einheit gemeinsam forschen, und die neuen Modelle werden anschließend von dieser Einheit an die kooperierenden Staaten bereitgestellt.
Beim CERN bauen die Länder gemeinsam einen Beschleuniger. Was Altman beschreibt, ist, dass mehrere Unternehmen, die sich derzeit bekämpfen, ihre Forschung und Entwicklung selbst zusammenlegen. Dieser Schritt geht viel weiter als Hassabis selbst, der in letzter Zeit nur eine branchenweite Selbstregulierungsorganisation ähnlich der US-Finanzaufsicht FINRA vorantreibt.
Der Gedanke der Fusion spiegelte sich bereits in alten Artikeln von OpenAI wider. In dem Artikel von 2023 stand bereits geschrieben, dass die Regierungen der wichtigsten Länder der Welt ein Projekt anführen können, um viele der derzeitigen Forschungsarbeiten zusammenzuführen.
Wenn man wirklich diesen Schritt geht, werden die stärksten Modelle nur aus dieser einen Institution hervorgehen. Wann sie veröffentlicht werden, an welche Länder sie verteilt werden und wann die Arbeit angehalten wird – alles wird von dieser Institution bestimmt.
Das Verlockendste an der Fusion ist, dass der Wettbewerb damit für immer endet. Es gibt keine Konkurrenten mehr, und niemand muss befürchten, dass er von anderen überholt wird, sobald er selbst das Tempo drosselt.
Der Gedanke, den Wettbewerb anzuhalten, wurde von OpenAI bereits 2018 in die Charta aufgenommen. Darin heißt es, dass man befürchtet, dass die Forschung an der AGI in der späteren Phase zu einem Wettbewerb wird, bei dem man keine Zeit hat, ausreichende Sicherheitsvorkehrungen zu treffen.
Deshalb verspricht OpenAI, falls ein Projekt mit denselben Werten und hohem Sicherheitsbewusstsein früher als OpenAI der AGI näher kommt, den Wettbewerb mit ihm einzustellen und ihm stattdessen zu helfen.
Wer zuerst die selbstevolutionäre KI baut, schmilzt alle GPUs der anderen
Wenn keiner der Giganten bereit ist, zu fusionieren, läuft der Wettbewerb ewig weiter. Am Ende kommt der dritte Weg, den Altman als „Eliezer-Plan“ bezeichnet.
Dieser Name stammt von Eliezer Yudkowsky, dem berühmtesten Pessimisten im Bereich der KI-Sicherheit. Seit vielen Jahren warnt er davor, dass fortschrittliche KI das Überleben der Menschheit bedrohen könnte.
Im Juni 2022 veröffentlichte Yudkowsky einen langen Artikel mit dem Titel „AGI-Zerstörung: Die tödliche Liste“, in dem er ein Konzept namens „entscheidende Handlung“ (Pivotal Act) beschreibt. Die erste Person, die eine ausreichend starke KI baut, muss sie nutzen, um eine große Tat zu vollbringen und andere daran zu hindern, eine weltzerstörende KI zu bauen.
Das Beispiel, das er am häufigsten anführt, ist „alle GPUs verbrennen“, wobei Nanomaschinen in der realen Welt jede GPU aufspüren.
Yudkowsky schrieb in seinem Artikel explizit, dass er nicht dafür plädiert, dies wirklich zu tun. Dieses Beispiel dient nur der groben Abschätzung, wie viel Kraft erforderlich ist, um andere daran zu hindern, die Welt in sechs Monaten oder drei Jahren zu zerstören.
Vier Jahre später hat Altman dieses Gedankenexperiment in die reale Industrie übernommen.
In seiner Beschreibung kann dieser Moment eintreten, wenn ein Unternehmen als erstes die „rekursive Selbstverbesserung“ (RSI) realisiert – also wenn die KI sich selbst verbessern kann.
Dieses Unternehmen nutzt die daraus resultierende wirtschaftliche Stärke, um die Rechenleistung aller anderen Entwickler vollständig abzuschneiden, sodass die Konkurrenten nie aufholen können. Altman nennt das „alle GPUs aller anderen schmelzen“.
In Yudkowskys Version sind es Nanomaschinen, die handeln. In Altmans Version ist es das Geld, das die Handlung übernimmt.
Nach der Beschreibung dieses Weges fügte Altman sofort hinzu.
„Offensichtlich finde ich diesen Weg sehr schlecht.“
Er sagte, er habe ihn nur aufgelistet, um die Diskussion vollständig zu machen. Seiner Meinung nach führt dieser Weg dazu, dass fortschrittliche KI in den Händen eines einzigen Unternehmens konzentriert wird – eine Zukunft, die er nicht will.
Aber der Ausgangspunkt dieses Weges, die rekursive Selbstverbesserung, ist genau das Ziel, auf das alle derzeit mit aller Kraft zusteuern, OpenAI ist da keine Ausnahme.
Die Namensgebung ist auch sehr subtil. Yudkowsky hat en