Gerade ist der Chef-Zukunftsforscher von OpenAI zurückgetreten, der einst von Elon Musk als dummes Esel beschimpft wurde.

Gerade hat der Chef-Futurist von OpenAI, Joshua Achiam, auf X seinen Abschied bekanntgegeben.

Dies ist keine gewöhnliche Personaländerung.

Innerhalb von OpenAI befindet sich die Position des Chef-Futuristen an der Schnittstelle zwischen KI-Sicherheit, Politik und der Unternehmensmission. Seine Aufgabe ist es, die Risiken und Chancen zu erforschen, die entstehen könnten, wenn KI immer leistungsfähiger wird.

Und Joshua Achiam war genau eine der Schlüsselfiguren bei OpenAI, die für diese Sicherheit und Mission verantwortlich waren.

Vor 9 Jahren, im Jahr 2017, trat er als Praktikant bei OpenAI ein. In der Anfangszeit war er ein Forschungswissenschaftler, der sich auf KI-Sicherheit konzentrierte und Forschungen zu Sicherheitsbeschränkungen im tiefen Verstärkungslernen durchführte.

Später leitete er das Team von OpenAI für Mission Alignment (Missionsausrichtung) und war dafür verantwortlich, die ursprüngliche Mission des Unternehmens aufrechtzuerhalten:

Sicherstellen, dass AGI der gesamten Menschheit zugutekommt.

In diesem Februar löste OpenAI das Mission Alignment-Team auf, und Joshua übernahm die Position des Chef-Futuristen des Unternehmens.

Doch nur 5 Monate später gab Joshua bekannt, dass er das Unternehmen, in dem er 9 Jahre lang gearbeitet hat, am 24. Juli offiziell verlassen wird.

Über die Gründe für seinen Abschied hat Joshua nicht viel verraten.

Er erklärte nur, dass sein Weggang nicht auf ein bestimmtes Ereignis oder eine spontane Laune zurückzuführen sei, sondern dass er schon sehr lange darüber nachgedacht habe.

Für eine sichere AGI

In einem langen Beitrag auf X beschrieb Joshua seinen Weggang als „Abschluss“.

Er schrieb, dass er 2017 als 25-jähriger Praktikant (Absolvent der UC Berkeley) bei OpenAI eingetreten sei. Damals konnten Computer noch nicht wirklich mit Menschen sprechen, geschweige denn denken.

Heute ist er 34 Jahre alt, Vater eines 2-jährigen Kindes, und Computer beginnen bereits, Spitzenprobleme der Wissenschaft zu lösen.

Joshua beschrieb diese 9 Jahre als „ein Jahrzehnt, in dem sich Veränderungen ereigneten, die wie mehrere Jahrhunderte wirkten“.

Für die Zukunft bleibt er optimistisch.

Ich glaube, dass wir eine Welt schaffen können, in der „die Grundbedürfnisse aller Menschen zu befriedigen“ kein Problem mehr ist, das gelöst werden muss. Im Gegenteil, wir werden es beschämend finden, die Messlatte so niedrig gelegt zu haben. Ich glaube, dass wir eine Welt voller Frieden, nie dagewesenen Wohlstands und unvorstellbarer gesellschaftlicher und wissenschaftlicher Möglichkeiten erreichen können. Was auch immer ich als Nächstes tue, ich werde weiterhin mit euch zusammenarbeiten, um diese Vision Wirklichkeit werden zu lassen.

Zum Abschluss sagte er mit einem Satz:

To safe AGI.

Dieser Satz passt genau zu seiner Rolle bei OpenAI in den letzten 9 Jahren.

Laut WIRED hat OpenAI noch nicht bekanntgegeben, wer Joshuas Position übernehmen wird. Diese Position befindet sich an der Schnittstelle zwischen dem KI-Sicherheits- und dem Politikteam des Unternehmens, und die Arbeit umfasst die Untersuchung der potenziellen Gefahren und Vorteile des Aufstiegs von KI.

Zuvor hat Joshua auch mit hochrangigen Mitarbeitern wie Chris Lehane, dem Leiter der globalen Angelegenheiten von OpenAI, zusammengearbeitet, um staatliche Regulierungen zu fördern, die mit der Mission von OpenAI übereinstimmen.

Mit anderen Worten, er war kein „Futurist“, der nur Vorhersagen trifft.

Genauer gesagt hat er innerhalb von OpenAI etwas anderes getan: Als die Fähigkeiten der Modelle stetig voranschritten, hat er das Unternehmen ständig an die alte Frage erinnert.

Wohin führt dieser Weg letztendlich?

Der Mann, der Musk unterbrochen hat

Wenn man auf Joshuas Karriere bei OpenAI zurückblickt, ereignete sich die dramatischste Szene im Jahr 2018.

Von April bis Mai dieses Jahres sagte Joshua im Prozess zwischen Musk und OpenAI vor Gericht aus und erinnerte sich an eine Abschiedsrede von Musk im Jahr 2018, bevor dieser OpenAI verließ:

Damals unterbrach er Musk und wies darauf hin, dass der Plan, AGI bei Tesla zu entwickeln, möglicherweise auf Kosten der Sicherheit gehen könnte.

Angeblich schimpfte Musk sofort: „Joshua ist ein „Esel“ (jackass)“.

Später wurde diese Geschichte zu einer „urbanen Legende“ innerhalb von OpenAI.

Dario Amodei, der heutige CEO von Anthropic, und David Luan, der später Leiter des AGI-Labors von Amazon wurde, schenkten Achiam eigens eine goldene Trophäe mit der eingravierten Zeile:

„Höre niemals auf, derjenige zu sein, der ein „jackass“ ist – für die Sicherheit.“

Jedes Mal, wenn ein Sicherheits-Experte das Unternehmen verlässt, passiert bei OpenAI etwas?

Auf Reddit haben einige Nutzer diesen Vorfall sofort in die „Liste der ausscheidenden Sicherheitsverantwortlichen“ von OpenAI aufgenommen.

Jemand scherzte:

Ilya ist gegangen, Jan ist gegangen, jetzt geht auch Joshua. Jedes Mal, wenn jemand für die Ausrichtung der KI zuständig ist und das Unternehmen verlässt, scheint bei OpenAI etwas zu passieren.

Natürlich ist dieser Witz übertrieben.

Aber in den letzten zwei Jahren hat sich im Sicherheitsbereich von OpenAI tatsächlich viel verändert.

Der von den Nutzern erwähnte Jan ist Jan Leike, der früher gemeinsam das Team von OpenAI für Superalignment (Superausrichtung) leitete, das erforschte, wie man fortschrittliche KI-Modelle unter menschlicher Kontrolle hält. 2024 verließ er OpenAI und wechselte zu Anthropic.

Im selben Jahr verließen auch Miles Brundage, der ehemalige Leiter der Politikforschung bei OpenAI, und Steven Adler, der früher die Forschung zu gefährlichen Fähigkeiten von KI-Modellen leitete, nacheinander das Unternehmen, um eine gemeinnützige Organisation zu gründen, die KI-Labore dazu anregt, strengere Sicherheits- und Schutzstandards einzuhalten.

Andrea Vallone, die früher erforschte, wie ChatGPT auf Benutzer in psychischen oder emotionalen Schwierigkeiten reagiert, verließ OpenAI Ende 2025 und wechselte zu Anthropic, dem Team ihres ehemaligen Kollegen Jan Leike.

Joshua ist der neueste Name in dieser Kette von Weggängen.

Gleichzeitig passt OpenAI selbst die Beziehung zwischen Sicherheit, Forschung und Politik an.

Laut WIRED hat OpenAI im letzten Jahr versucht, die Distanz zwischen dem KI-Forschungsteam und dem Politikteam zu verringern, um Regeln und Standards zu entwickeln, die die technologische Entwicklung besser antizipieren. Einige Forscher wie Boaz Barak, Noam Brown und Adrien Ecoffet beteiligen sich auch stärker an politikbezogenen Arbeiten.

Auf der anderen Seite ist Dean Ball, ehemaliger KI-Berater des Weißen Hauses, diese Woche bei OpenAI eingetreten und leitet den Bereich Strategic Futures. Er wird eine kurze Übergangsphase mit Joshua haben und voraussichtlich weiterhin mit Forschern und Politikverantwortlichen zusammenarbeiten.

Das macht Joshuas Weggang noch subtiler.

Einerseits verbindet OpenAI „Sicherheit“ und „Politik“ immer enger miteinander. Andererseits hat derjenige, der früher das Mission Alignment-Team leitete und später Chef-Futurist wurde, sich entschieden, zu diesem Zeitpunkt das Labor zu verlassen.

In seinem Abschiedsbrief schrieb Joshua: Die Welt kennt bereits das Geheimnis (AGI zu erreichen). Heute ist es auch möglich, diese Mission außerhalb der Mauern der Frontier-Labors weiter voranzutreiben.

Das könnte der denkwürdigste Satz in dieser ganzen Angelegenheit sein.

In den letzten zehn Jahren war die Entwicklung von KI wirklich aufregend. OpenAI ist längst nicht mehr nur ein kleines Forschungslabor, sondern hat sich zu einer neuen Institution entwickelt, die sich gleichzeitig mit Produkten, Kapital, Politik, Gerichten und der Öffentlichkeit auseinandersetzen muss.

Aber letztendlich waren die letzten zehn Jahre nur ein kleiner Abschnitt auf der Reise der KI. Der Weg in die Zukunft könnte noch viel länger sein.

So lang, dass selbst jeder große Goliath zu einem Zwerg geschliffen werden kann.

Referenzlinks

[1]https://x.com/jachiam0/status/2074605703281693175

[2]https://www.wired.com/story/openai-chief-futurist-joshua-achiam-is-leaving-the-company/

Dieser Artikel stammt aus dem WeChat-Offiziellen Konto „QbitAI“, Autor: henry, veröffentlicht mit Genehmigung von 36Kr.