Sam Altman prognostiziert drei Endzustände der KI: Im schlimmsten Fall können die GPUs der Gegner kollektiv lahmgelegt werden.

Laut einem Bericht von *The Information* hat Sam Altman, der Geschäftsführer von OpenAI, kürzlich bei einer internen Mitarbeiterversammlung drei mögliche Endzustände des KI-Wettbewerbs vorgeschlagen:

Der erste besteht in der Gründung einer globalen Regulierungsbehörde, der zweite in der Verschmelzung der führenden Labore zu einer einzigen Einrichtung, und der dritte darin, dass ein Unternehmen als Erster einen Durchbruch bei Schlüsseltechnologien erzielt und sogar die Fähigkeit erlangt, die Hardware von Konkurrenten lahmzulegen.

Die letzte Art von Ende klingt wie eine Handlung aus einem Science-Fiction-Film, und Altman selbst hat offen gesagt, dass dies ein „absolut schreckliches“ Ende ist.

Drei Wege, jeder hat seinen Preis

Der erste von Altman vorgeschlagene Weg ist die Einrichtung einer globalen Regulierungsorganisation ähnlich der Internationalen Atomenergiebehörde (IAEA).

Diese Einrichtung kann die fortschrittlichsten KI-Systeme überwachen, einheitliche Sicherheitsstandards festlegen und von den entwickelnden Unternehmen verlangen, unabhängige Prüfungen zu akzeptieren.

Bereits im Mai 2023 haben Altman, Greg Brockman, Mitbegründer von OpenAI, und Ilya Sutskever, der damalige Chefwissenschaftler, gemeinsam den Artikel *Governance of Superintelligence* (Regulierung der Superintelligenz) veröffentlicht.

Link: https://openai.com/index/governance-of-superintelligence/

Der Artikel schlägt vor, dass in Zukunft möglicherweise eine internationale Einrichtung ähnlich der IAEA eingerichtet werden muss, um KI-Entwicklungsaktivitäten zu regulieren, die bestimmte Schwellenwerte für Fähigkeiten oder Rechenleistung erreichen, einschließlich Systemprüfungen, Sicherheitsaudits, Konformitätstests sowie Überwachung von Rechenleistung und Energieverbrauch.

Allerdings ist KI bereits zu einer strategischen Technologie geworden, in die alle Länder stark investieren. Die internationale Regulierung betrifft Geheimhaltung von Technologien, nationale Sicherheit und industriellen Wettbewerb. Es besteht nach wie vor große Unsicherheit, ob alle Länder einheitliche Regeln akzeptieren können.

Der zweite Weg besteht darin, dass die weltweit führenden KI-Labore möglicherweise schließlich zu einer einzigen Einrichtung verschmelzen.

Altman nennt ihn das „Demis-Programm“. Demis Hassabis hat vorgeschlagen, dass die KI-Forschung das Modell des Europäischen Zentrums für Kernforschung (CERN) übernehmen kann, wobei mehrere Länder gemeinsam eine große Forschungseinrichtung aufbauen und verwalten.

Link: https://www.youtube.com/watch?v=4poqjZlM8Lo

Wenn die führenden KI-Unternehmen von derselben Organisation einheitlich verwaltet werden, können sie Sicherheitsstandards und praktische Erfahrungen austauschen, um zu vermeiden, dass verschiedene Unternehmen die Forschungs- und Entwicklungsgeschwindigkeit ständig beschleunigen, um Produkte vor der Konkurrenz auf den Markt zu bringen.

Allerdings werden die fortschrittlichsten Modelle, Talente und Rechenleistung alle in einer einzigen Organisation konzentriert. Diese Einrichtung wird einen enormen technischen und wirtschaftlichen Einfluss haben. Wie eine übermäßige Konzentration von Macht vermieden werden kann, wird zu einem neuen Problem.

Der dritte Weg des Winners-Takes-All-Prinzips wird von Altman als „Eliezer-Programm“ bezeichnet, eine extreme Vorstellung, die von dem KI-Sicherheitsforscher Eliezer Yudkowsky vorgeschlagen wurde.

Link: https://www.lesswrong.com/posts/uMQ3cqWDPHhjtiesc/agi-ruin-a-list-of-lethalities

Yudkowsky warnt seit langem, dass eine außer Kontrolle geratene Superintelligenz ein existenzielles Risiko für die Menschheit darstellen könnte. Er hat behauptet, dass die Partei, die als Erster die Superintelligenz beherrscht, entschlossene Maßnahmen ergreifen muss, um andere Organisationen daran zu hindern, potenziell gefährliche Superintelligenzsysteme zu entwickeln.

Altman stellt dies in Zusammenhang mit der rekursiven Selbstverbesserung (Recursive Self-Improvement, RSI).

Die sogenannte RSI bedeutet, dass KI in der Lage ist, an der Verbesserung ihrer eigenen Modellarchitektur, Trainingsmethoden oder Entwicklungsprozesse teilzunehmen. Die aktualisierte KI kann diese Fähigkeiten weiter verbessern und einen kontinuierlichen Zyklus der Selbstverbesserung bilden.

Sobald dieser Mechanismus einen ausreichend hohen Automatisierungsgrad erreicht, kann sich die Geschwindigkeit der KI-Entwicklung deutlich beschleunigen.

Wenn ein Unternehmen als Erster einen Durchbruch bei RSI erzielt, kann es schnell einen technischen Vorteil aufbauen, den andere Konkurrenten kaum einholen können, und schließlich ein Marktmonopol bilden.

Im extremsten Fall könnte dieses Unternehmen sogar die Fähigkeit haben, die GPUs von Konkurrenten zu stören oder zu zerstören.

Altman hat sich ausdrücklich gegen dieses Ende ausgesprochen, bei dem fortschrittliche KI in den Händen eines einzigen Unternehmens konzentriert wird.

Das von Altman wiederholt betonte Risiko

Tatsächlich setzt diese interne Diskussion die Probleme fort, auf die Altman schon immer hingewiesen hat.

Mitte September 2026 hat Altman öffentlich darauf hingewiesen, dass fortschrittliche KI zwei Hauptrisiken mit sich bringen kann: Erstens verliert die Menschheit die Kontrolle über KI-Systeme, zweitens ist die KI-Macht in den Händen weniger Organisationen konzentriert.

Er betonte weiter, dass vermieden werden muss, dass die KI-Entwicklung zu einem der oben genannten Ergebnisse führt.

Er erklärte, dass OpenAI auf der Seite der gesamten Menschheit stehen sollte und nicht nur einem bestimmten Unternehmen oder einer bestimmten Interessengruppe dienen darf. Altman hat außerdem dazu aufgerufen, strengere KI-Sicherheitsprotokolle einzuführen und unabhängige Bewertungen für fortschrittliche KI-Systeme durchzuführen.

Diese Position stimmt mit einigen Ansichten von Dario Amodei, dem Geschäftsführer von Anthropic, überein.

Allerdings hat Altman intern auch zugegeben, dass OpenAI derzeit nicht einfach auf den Wettbewerb mit Konkurrenten um die technische Führungsrolle verzichten kann.

Referenzlinks:

https://www.theinformation.com/articles/altman-describes-three-endgames-ai-including-one-single-firm-melts-everyone-elses-gpus?shared=dead241b54ae7c75

Dieser Artikel stammt aus dem WeChat-Offiziellen Konto „Machine Heart“ (ID: almosthuman2014), Autor: KI-Interessierte, veröffentlicht mit Genehmigung von 36Kr.