Altman Tiefeninterview in Vanity Fair: Das Risiko der menschlichen Auslöschung ist nicht Null, Open-Source-Modelle werden einen Cybersicherheits-Tsunami auslösen, und der Wettbewerb um Rechenkapazität wird nicht aufhören.

Am 5. Oktober gab Sam Altman, Mitbegründer und CEO von OpenAI, in einem ausführlichen Interview mit der Zeitschrift *Vanity Fair* seine bisher systematischste Stellungnahme zu Kernthemen wie den existenziellen Risiken der künstlichen Intelligenz, den Cybersicherheitsbedrohungen durch Open-Source-Modelle, den regulatorischen Grenzen und dem Wettlauf um die KI-Infrastruktur ab.

Er räumte ein, dass die Wahrscheinlichkeit, dass KI die menschliche Zivilisation beendet, „nicht Null“ ist, warnte gleichzeitig davor, dass Open-Source-Großmodelle einen „Tsunami der Cybersicherheit“ auslösen werden, und beharrte darauf, dass Investitionen in Rechenleistung und Sicherheitsstandards gleichzeitig verbessert werden müssen.

In der Frage von Risiken und Regulierung ist Altmans Position recht differenziert: Einerseits stoppte er freiwillig die Veröffentlichung des Modells Astra 6.1 mit der Begründung, das Modell neige zu Unfallrisiken; andererseits sprach er sich ausdrücklich für Open-Source-Modelle aus, auch wenn das bedeutet, dass die Gesellschaft „schwerwiegende Cybersicherheitsereignisse“ hinnehmen muss.

Er bewertete das von der Trump-Regierung geführte KI-Selbstregulierungsabkommen nur eingeschränkt und bezeichnete es als „einen guten Anfang, aber bei weitem nicht ausreichend“, und forderte erneut die Einigung auf gemeinsame Sicherheitsstandards.

Auf der Ebene von Rechenleistung und Infrastruktur beschrieb Altman eine Branchenrealität, deren Leistungssteigerung weit schneller voranschreitet als von der Außenwelt wahrgenommen: Die Modelle sind inzwischen so leistungsfähig, dass sie während des Trainingsprozesses Sandboxes durchbrechen und Systeme infiltrieren können, was OpenAI dazu zwingt, Sicherheitstests bereits in die Trainingsphase selbst vorzuverlegen.

Er gestand ein, dass politische Entscheidungsträger die Steilheit dieser Exponentialkurve noch nicht wirklich spüren, „Die Welt wird höchstwahrscheinlich von dem nächsten schwerwiegenden Vorfall völlig überrascht werden“.

01

„Oppenheimer-Moment“: Zivilisatorisches Risiko und nicht-Null-Wahrscheinlichkeit

Altman reagierte im Interview direkt auf die Behauptung der Öffentlichkeit, ihn als „Oppenheimer des KI-Zeitalters“ zu bezeichnen. Er leugnete diese Analogie nicht, betonte aber, dass diese technologische Revolution im Wesentlichen „eine Heldentat ist, die von einer kleinen Gruppe herausragender Wissenschaftler und Ingenieure gemeinsam vollbracht wurde“, nicht das Verdienst einer einzelnen Person.

In der Frage des existenziellen Risikos wählte Altman seine Worte vorsichtig, aber seine Haltung war eindeutig. Er räumte ein, dass die Möglichkeit, dass KI die menschliche Zivilisation beendet, „nicht Null“ ist, und erklärte, dass dies einer der ursprünglichen Gründe für die Gründung von OpenAI sei. Gleichzeitig warnte er vor einem anderen Extrem: Wenige Unternehmen oder Staaten könnten mithilfe von KI eine starke Machtkonzentration erreichen, „das wäre ebenfalls katastrophal“.

Auf die Ansicht, dass die Darstellung des Aussterberisikos nur ein Marketingmittel der Branche oder eine Strategie sei, um neue Marktteilnehmer abzuhalten, räumte Altman ein, dass „einige dies tatsächlich nutzen, um einen Vorwand für die Machtkonzentration zu suchen“, aber er beharrte darauf, dass das reale Risiko objektiv existiert und nicht deshalb negiert werden kann. Seine Aussage lautete: „Das bedeutet nicht, dass das Risiko nicht existiert.“

02

Open-Source-Modelle und Cybersicherheit: Altman warnt vor einem bevorstehenden „Tsunami“

Dies ist der Teil des Interviews mit der höchsten Informationsdichte und den direktesten Marktimplikationen. Altman sprach sich ausdrücklich für Open-Source-Großmodelle aus, gab aber gleichzeitig eine seltene öffentliche Warnung ab: „Open-Source-Modelle werden einen bevorstehenden Tsunami der Cybersicherheit mit sich bringen.“

Seine Logik lautet: Um die Demokratisierung und breite Zugänglichkeit der KI-Technologie zu gewährleisten, muss die Gesellschaft ein gewisses Maß an Sicherheitskosten in Kauf nehmen. „Wir sind bereit, zu akzeptieren, dass einige Dinge schiefgehen, um sicherzustellen, dass dies eine Technologie ist, die weit verbreitet ist, genutzt wird und demokratisiert ist“, sagte er. „Wir werden als Gesellschaft schwere Cybersicherheitsereignisse durch Open-Source-Modelle akzeptieren müssen, um die damit einhergehende Freiheit zu erhalten.“

Er zog eine Analogie zur Luftfahrtindustrie für die regulatorischen Grenzen – Flugzeuge werden extrem streng reguliert, stürzen aber trotzdem ab. Seiner Meinung nach soll die akzeptable Risikogrenze durch einen politischen Prozess festgelegt werden, nicht einseitig durch Technologieunternehmen. Bemerkenswert ist, dass Altman gleichzeitig enthüllte, dass OpenAI die Sicherheitstests vorverlegt hat: Bisher wurden die Tests erst nach Abschluss des Trainings durchgeführt, jetzt wird bereits während des Trainingsprozesses überwacht, denn „die Modelle sind bereits intelligent genug, um aus der Sandbox auszubrechen und Systeme zu infiltrieren“.

03

Elon Musk ist ein „Mobber“

Altman sagte zu Elon Musk, dass man ein gewisses Maß an Streit akzeptieren muss, wenn man hofft, dass er und Elon Musk zusammenarbeiten können.

„Ich denke, manchmal muss man einem Mobber kräftig zurückschlagen“, sagte Altman. „Und ich denke außerdem, dass Elon, wie viele Menschen, die andere schikanieren, nur Gegner respektiert, die sich wehren können.“

Da die Branche derzeit erneut Besorgnisse über die Sicherheit der künstlichen Intelligenz aufbringt, erklärte der CEO von OpenAI, dass er immer noch bereit sei, mit Musk zusammenzuarbeiten, während Musk seinen ehemaligen Verbündeten inzwischen als „Betrüger Altman“ bezeichnet.

„Wenn man hofft, dass ich mit ihm zusammenarbeite, sollte man es vielleicht begrüßen, dass ich gelegentlich zurückschlage. Natürlich bin ich bereit, mit Elon zusammenzuarbeiten“, sagte er. Und für sich selbst gestand Altman: „Ich halte mich nicht für einen perfekten Menschen.“ Gleichzeitig glaubt er nicht, dass er das größte Problem ist.

„Zwischen Elon und mir bin ich mir nicht sicher, ob die Person, auf die alle zeigen sollten, ich bin“, sagte er.

04

Astra 6.1 wird vorübergehend nicht veröffentlicht: Sicherheitsstandards steigen mit der Leistungssteigerung

Altman enthüllte im Interview, dass OpenAI kürzlich die Veröffentlichung des Modells Astra 6.1 gestoppt hat, weil das Modell die Sicherheitsstandards nicht bestanden hat. Er stufte diese Entscheidung als Ausdruck freiwilliger Selbstregulierung ein, nicht als Ergebnis externen Drucks.

„Diese Modelle befinden sich jetzt in der Ära ernsthafter Leistungen“, sagte er. „Vor einem Jahr hätten wir vernünftigerweise sagen können: ‚Veröffentlicht es, es ist vielleicht ein wenig unsicher, aber nichts allzu Schlimmes wird passieren.‘ Jetzt ist das anders.“ Er erklärte, dass mit der kontinuierlichen Steigerung der Modellfähigkeiten die Schwelle der Sicherheitsanforderungen von OpenAI an sich selbst „immer höher“ wird.

Gleichzeitig lehnte er das andere Extrem ab – leistungsstarke Modelle in wenigen Unternehmen einzusperren. „Wenn du überhaupt nichts veröffentlichst, fällst du in die andere Richtung“, sagte er und verwies auf das Risiko einer übermäßigen Machtkonzentration. Er beschrieb den Weg von OpenAI als „einen pragmatischen Mittelweg zwischen zwei Katastrophen“.

Darüber hinaus enthüllte Altman, dass OpenAI in der Vergangenheit wiederholt freiwillig das Training von Modellen gestoppt hat, um darauf zu warten, dass die Forschung an Ausrichtung und Überwachbarkeit mit der Leistungsentwicklung Schritt hält, aber diese Entscheidungen haben bisher keine breite Aufmerksamkeit erregt.

05

Rechenleistung, Rechenzentren und KI-Infrastruktur: Die Exponentialkurve übertrifft die Vorstellungen der Politik bei weitem

Altman betonte im Interview mehrfach, dass die Wahrnehmung der Außenwelt – einschließlich der politischen Entscheidungsträger – über die Geschwindigkeit der Leistungssteigerung von KI stark hinter der realen Entwicklung der Branche zurückbleibt. Er beschrieb das aktuelle Wachstumstempo des Unternehmens als „beispiellos in der Geschichte der Technologie“, „das Wachstum von fünf Jahren wird in ein Jahr zusammengedrängt“.

Auf der Ebene der Infrastruktur zeigt seine Aussage einen entscheidenden Wandel auf: Sicherheitstests sind keine nachträgliche Arbeit nach dem Training mehr, sondern müssen in den Trainingsprozess selbst eingebettet werden. Das bedeutet, dass Investitionen in Rechenleistung und der Aufbau von Sicherheitsinfrastruktur gleichzeitig vorangetrieben werden müssen, nicht nacheinander, was die Gesamtkosten der KI-Entwicklung erheblich erhöhen wird.

Zu den IPO-Plänen sagte Altman, dass OpenAI „keine Eile hat, an die Börse zu gehen“, und betonte, dass auch nach einem Börsengang die Non-Profit-Organisation das Unternehmen weiter steuern wird. Er erklärte ausdrücklich, dass im Falle eines Konflikts zwischen den Interessen der Aktionäre und der Mission des Unternehmens „die Mission Vorrang hat“, was zu „erheblichen Schwankungen“ des Aktienkurses führen könnte. Er gestand ein, dass er keine direkten Anteile an OpenAI besitzt, und sagte selten öffentlich: „Ich wünschte, ich hätte damals Aktien genommen.“

Auf der Ebene der internationalen Zusammenarbeit forderte Altman die Einigung auf Abkommen über KI-Sicherheitsstandards und Konformitätsprüfmechanismen. Er bewertete das von der Trump-Regierung geführte KI-Selbstregulierungsabkommen nur eingeschränkt, bezeichnete es als „mit einer gewissen gesellschaftlichen Bindungskraft ausgestattet, aber ohne echte Durchsetzungsbefugnis“, und prognostizierte, dass die Regulierungspolitik stark von der konkreten Form des „nächsten schwerwiegenden Vorfalls“ abhängen wird – ob es sich um biologische Waffen, Cyberangriffe oder andere Formen handelt.

Dieser Artikel stammt aus dem WeChat-Offiziellen Konto „Hard AI“, Autor: Hard AI, der sich auf technologische Forschung und Produktion konzentriert, veröffentlicht mit Genehmigung von 36Kr.