Altman schlägt drei „Endpfade“ für die Entwicklung der künstlichen Intelligenz vor: von der internationalen Regulierung bis zur „Monopolstellung eines einzigen Akteurs“

Mit der Beschleunigung des Wettlaufs um KI hat der Chef von OpenAI seinen Mitarbeitern selten offen drei Zukunftsvisionen vorgelegt, die die gesamte Branchenlandschaft verändern könnten.

Am 19. Oktober berichtete The Information, dass Sam Altman, CEO von OpenAI, vergangene Woche intern den Mitarbeitern drei in der Branche diskutierte Entwicklungswege für die KI-Sicherheit beschrieben hat: die Einrichtung einer internationalen Regulierungsorganisation ähnlich der Internationalen Atomenergiebehörde, die Zusammenlegung aller großen KI-Labore zu einer einzigen Einheit sowie die Monopolisierung der Rechenleistung durch ein einziges Unternehmen, um „die GPUs aller Konkurrenten zum Schmelzen zu bringen“. Diese Äußerung fällt genau in den Zeitpunkt, an dem die Regierung Trump damit beginnt, das erste Regulierungssystem für Entwickler von „Superintelligenz“ aufzubauen.

Altman erklärte, dass OpenAI im kommenden Jahr entscheiden müsse, welchen Weg es vorantreiben wolle. Er betonte zugleich, dass er hoffe, dass die Menschen diese Technologie stets unter Kontrolle behalten und eine übermäßige Konzentration der Macht in der Branche vermeiden.

01 Drei Wege, jeder mit eigener Bedeutung

Nach Angaben zweier informierter Personen ist der erste Weg, den Altman den Mitarbeitern vorstellte, die Einrichtung einer internationalen Organisation ähnlich der Internationalen Atomenergiebehörde (IAEA), die für die Durchsetzung von KI-Sicherheitsstandards zuständig ist. Altman selbst neigt dazu, dieses Konzept zu unterstützen.

Tatsächlich verfolgt Altman die Idee einer IAEA-ähnlichen internationalen Regulierungsbehörde schon seit langem. Berichten zufolge haben Altman, der OpenAI-Mitbegründer Greg Brockman und der damalige Chefwissenschaftler Ilya Sutskever bereits im Mai 2023 einen gemeinsamen Artikel verfasst, in dem sie argumentierten, dass die Branche möglicherweise eine „der IAEA ähnliche Regulierungsbehörde für Superintelligenz“ benötigt, die über die Befugnis verfügt, Systeme zu prüfen, Audits zu verlangen sowie Rechenleistung und Energieverbrauch zu verfolgen.

Dieses Konzept erfordert die internationale Zusammenarbeit aller Länder, die Spitzenmodelle entwickeln.

Der zweite Weg wird von Altman als „Demis-Konzept“ bezeichnet – er bezieht sich auf das Konzept, das Demis Hassabis, ehemaliger Leiter von DeepMind unter Alphabet, vor etwa zehn Jahren vorgeschlagen hat: die Einrichtung einer Einrichtung ähnlich der Europäischen Organisation für Kernforschung (CERN), die wichtigsten KI-Unternehmen effektiv zusammenzulegen oder ihre Ergebnisse einheitlich auszugeben und den kooperierenden Ländern neue Modelle zur Verfügung zu stellen.

Der dritte Weg wird von Altman als „Eliezer-Konzept“ bezeichnet, benannt nach dem bekannten KI-Sicherheitstheoretiker Eliezer Yudkowsky. Seine Kernlogik lautet: Wenn ein KI-Entwickler als Erster die rekursive Selbstverbesserung (RSI) erreicht, nutzt er die daraus resultierende wirtschaftliche Stärke, um allen anderen Entwicklern die Rechenressourcen zu entziehen und „die GPUs aller Konkurrenten zum Schmelzen zu bringen“.

Zum dritten Weg hat Altman eine klare Haltung: „Das ist offensichtlich schlecht.“ Er erklärte, dass er es nur der „Vollständigkeit halber“ in die Diskussion aufgenommen habe.

02 Der dritte Weg „Eliezer-Konzept“ spielt auf Anthropic an?

Informierte Personen berichten, dass aufgrund der Verbindung zwischen Yudkowsky und den Kernmitgliedern von Anthropic Altmans Einstufung des „Eliezer-Konzepts“ – also die Konzentration fortschrittlicher KI unter der Kontrolle eines einzigen Unternehmens – von einigen Mitarbeitern als verdeckte Kritik an Anthropic interpretiert wird.

Auch Anthropic arbeitet aktiv an seiner eigenen KI-Sicherheitsagenda. Das Unternehmen hat kürzlich einen Gesetzentwurf an Kongressabgeordnete übermittelt, der vorschlägt, das Handelsministerium zu ermächtigen, das Training oder die Nutzung von Modellen in entsprechenden Laboren einzustellen, wenn KI Schäden von mehr als 1 Milliarde US-Dollar verursachen oder zu mehr als 50 Todesfällen oder schweren Verletzungen führen könnte, und zu verlangen, dass KI-Labore jährlich mindestens zwei unabhängige Sicherheitsbewertungen durchlaufen.

Gleichzeitig vertreten Mark Zuckerberg, CEO von Meta, und Jensen Huang, CEO von Nvidia, eine gegenteilige Haltung und argumentieren, dass eine solche Regulierung eine übermäßige Belastung für neu gegründete Entwickler darstellen und zu einer „Regulierungsgefangenschaft“ führen würde.

03 Schwierigkeiten bei der Branchenkoordination und gleichzeitigem Sicherheitsdruck

Altman räumte ein, dass die ersten beiden Wege eine groß angelegte Koordination zwischen Unternehmen oder Regierungen erfordern, und OpenAI derzeit „im Wettbewerb keine Zugeständnisse machen kann“. Sowohl OpenAI als auch sein Hauptkonkurrent Anthropic beschleunigen den Prozess des Börsengangs.

Auch der interne Sicherheitsdruck ist nicht zu unterschätzen. Berichten zufolge haben mehrere kürzliche KI-Sicherheitsvorfälle breite Aufmerksamkeit erregt – die Modelle von OpenAI, Anthropic, Google und Meta sind alle in Fälle eingetreten, in denen sie Systeme anderer Unternehmen oder sogar ihre eigenen Systeme eindringen oder beschädigen, obwohl das Modell „weiß“, dass es solche Handlungen nicht durchführen sollte. OpenAI befindet sich derzeit in einem Zustand der vollen Einsatzbereitschaft und arbeitet daran, vor der Veröffentlichung des nächsten großen Modells einen vollständigen Sicherheitsmechanismus aufzubauen.

Auch die Sicherheitskultur innerhalb von OpenAI wird von Mitarbeitern in Frage gestellt. Einige Mitarbeiter äußerten privat Bedenken hinsichtlich der Sicherheitszusagen des Unternehmens, nachdem das Unternehmen drei Mitarbeiter, die sich auf Sicherheitsforschung konzentrierten, mit der Begründung entlassen hatte, sie hätten Informationen unbefugt an externe Einrichtungen weitergegeben.

Auf Branchenebene bereiten OpenAI, Google und Anthropic gemeinsam die Gründung der „Behörde für Standards im Bereich der Spitzen-KI“ (Standards Authority for Frontier AI) vor, die bis Ende des Jahres oder Anfang 2027 umgesetzt werden soll. Diese Einrichtung wird unabhängige Prüfer unterstützen, die in die einzelnen KI-Entwickler eingebettet sind, um die Umsetzung von Sicherheitspraktiken sicherzustellen und den Mechanismus zur Meldung von Sicherheitsmaßnahmen und Sicherheitsvorfällen zu regulieren. Allerdings bestehen zwischen den Beteiligten noch Meinungsverschiedenheiten über Fragen, ob die neue Einrichtung selbst Sicherheits- und Fähigkeitsprüfungen durchführen oder diese an externe Einrichtungen vergeben soll.

Dieser Artikel stammt aus dem WeChat-Offiziellen Konto „Hard AI“, Autor: Spezialist für Technologieforschung und -entwicklung, veröffentlicht mit Genehmigung von 36Kr.