OpenAI hat erneut einen langjährigen Mitarbeiter verloren, der es wagte, mit Musk am Tisch zu streiten, und der Gründer von Anthropic ihm einen Pokal überreichte

Nachrichten von Zhidong vom 8. Juli: Heute hat Joshua Achiam, einer der Urgesteine von OpenAI und Chef-Zukunftsforscher, einen langen Abschiedsbrief auf der sozialen Plattform X veröffentlicht und beendet damit seine fast 9-jährige Tätigkeit bei OpenAI. Sein letzter Arbeitstag ist der 24. dieses Monats. 

▲ Joshua Achiam kündigt seinen Abschied in einem Beitrag auf der sozialen Plattform an (Quelle: X)

Achiams Lebenslauf erstreckt sich fast über den gesamten Wandel von OpenAI von einem gemeinnützigen Forschungslabor zu einem kommerziellen Giganten. Er trat 2017 als 25-jähriger Praktikant bei OpenAI ein, zu einer Zeit, als „Computer noch nicht sprechen und nicht denken konnten“. Danach arbeitete er lange Zeit als Forschungsforscher im Bereich der KI-Sicherheit und wurde am 25. September 2024 zum Leiter des Bereichs „Mission Alignment“ befördert. Am 11. Februar dieses Jahres wechselte er gerade in die neu geschaffene Position des Chef-Zukunftsforschers – einen Titel, den er weniger als fünf Monate innehatte. 

▲ Joshua Achiams beruflicher Werdegang (Quelle: LinkedIn)

Zu den Aufgaben des Chef-Zukunftsforschers beschreibt OpenAI in seiner offiziellen Mitteilung: Er soll erforschen, wie KI und AGI die Gesellschaft neu gestalten werden, und Analysen erstellen, die verschiedenen Institutionen dabei helfen, sich im Voraus darauf vorzubereiten. Achiam nannte diese Rolle in einem öffentlichen Gespräch Ende Februar dieses Jahres eine „neuartige und experimentelle Position“. 

Dieser Abschied fällt in eine Phase, in der der Börsengangsprozess und die organisatorische Umstrukturierung von OpenAI miteinander verzahnt sind. OpenAI hat am 8. Juni heimlich einen S-1-Entwurf bei der US-Börsenaufsicht SEC eingereicht, hat aber noch keinen Termin für den Börsengang festgelegt. 

Gleichzeitig ist Dean Ball, ehemaliger KI-Berater des Weißen Hauses, zu OpenAI gewechselt und leitet das Team „Strategic Futures“. Er wird eine kurze Übergangszeit mit Achiam arbeiten. Während seiner Tätigkeit wird Ball auch die Zusammenarbeit zwischen den Forschern des Unternehmens und den Verantwortlichen für Politik koordinieren. 

Achiam hat vor zwei Monaten gerade im Prozess, in dem Musk Altman verklagte, als Zeuge für OpenAI ausgesagt. Im Gericht wurde eine goldene Trophäe in Form eines Esels vorgezeigt, auf der „Esel“ eingraviert war – ein Andenken, das ihm seine Kollegen 2018 schenkten, nachdem er Musk persönlich gewarnt hatte, dass ein überstürztes Vorantreiben von AGI die Sicherheit opfern würde, woraufhin Musk ihn als „Esel“ beschimpft hatte. 

▲ Joshua Achiams goldene „Esel“-Trophäe (Quelle: X)

01. Vom Praktikanten zum Chef-Zukunftsforscher: Das Sicherheitsteam von OpenAI wurde mehrfach umstrukturiert

Achiam trat 2017 als Praktikant bei OpenAI ein und entwickelte sich anschließend zu einem Forscher, der sich auf den Bereich der KI-Sicherheit spezialisierte. 

▲ Joshua Achiam (Quelle: Getty Images)

Nach dem Launch von ChatGPT im Jahr 2022 expandierte OpenAI schnell von einem kleinen Forschungslabor zu einem großen Technologieunternehmen. Die Sicherheits-, Produkt- und Forschungsteams des Unternehmens durchliefen mehrere strukturelle Anpassungen. 

In den vergangenen Monaten hat OpenAI darauf hingearbeitet, die Zusammenarbeitshürden zwischen dem KI-Forschungsteam und dem Politikteam zu überwinden, um passende Regeln und Branchenstandards für den technologischen Entwicklungsweg im Voraus festzulegen. Mit der Vertiefung der Zusammenarbeit zwischen den beiden Abteilungen gaben mehrere Forscher des Unternehmens wie Boaz Barak, Noam Brown und Adrien Ecoffet an, dass ihr Anteil an politikbezogenen Arbeiten deutlich gestiegen ist. 

Die Sicherheitsorganisation von OpenAI wurde in den letzten Jahren mehrfach umgestaltet. Im Juli 2023 kündigte OpenAI die Gründung des Teams „Superalignment“ an, das von Ilya Sutskever und Jan Leike gemeinsam geleitet wurde. Ziel war es, die zentralen technischen Herausforderungen der Ausrichtung von Superintelligenz innerhalb von vier Jahren zu lösen. Weniger als ein Jahr später wurde dieses Team aufgelöst. Jan Leike wechselte 2024 zu Anthropic. 

Im September 2024 kündigte die damalige CTO Mira Murati ihren Abschied an. OpenAI kündigte die Gründung des von Achiam geleiteten „Mission Alignment Teams“ an, das sich ausschließlich dafür einsetzen sollte, das festgelegte Unternehmensziel „sicherzustellen, dass AGI der gesamten Menschheit zugutekommt“ umzusetzen. Im Februar dieses Jahres wurde dieses Team aufgelöst, und OpenAI gab gleichzeitig bekannt, dass Achiam zur Position des Chef-Zukunftsforschers wechselt. Bis heute hat Achiam nun seinen Abschied angekündigt. 

OpenAI hat noch keinen Nachfolger bekanntgegeben. Achiams Position verbindet das KI-Sicherheitsteam und das Politikteam des Unternehmens und ist hauptsächlich dafür zuständig, potenzielle Risiken und positive Werte der KI-Entwicklung zu erforschen. Er hat gemeinsam mit hochrangigen Mitarbeitern von OpenAI wie Chris Lehane, dem Leiter für globale Angelegenheiten, darauf hingewirkt, dass staatliche Regulierungsvorschriften entstehen, die den Kernzielen von OpenAI entsprechen – also sicherstellen, dass allgemeine KI der gesamten Menschheit zugutekommt. 

Mit den Vorbereitungen von OpenAI für den Börsengang haben bereits mehrere hochrangige Mitarbeiter, die sich tief im Bereich der KI-Sicherheit engagiert haben, nacheinander das Unternehmen verlassen. Achiam ist der jüngste davon. 

2024 verließen sowohl Miles Brundage, der Leiter der Politikforschung, als auch Steven Adler, der Leiter der Forschung zu Risikokapazitäten von KI-Modellen, OpenAI. Die beiden gründeten gemeinsam eine gemeinnützige Einrichtung, die alle KI-Labore dazu aufruft, strenge hohe Sicherheitsstandards umzusetzen. 

Andrea Vallone, die für die Erforschung von Interaktionslösungen von ChatGPT mit Nutzern mit psychischen und emotionalen Belastungen zuständig war, verließ das Unternehmen Ende 2025 und schloss sich Leikes Team bei Anthropic an. 

02. 2018 wurde er nach einer direkten Kritik an Musk scharf zurechtgewiesen: Die „Esel“-Trophäe tauchte im Mai dieses Jahres im Gericht auf

Achiams bisher berühmtester Moment ereignete sich vor Gericht. Im Mai dieses Jahres trat er als Zeuge von OpenAI im Prozess zwischen Musk und Altman auf. Am letzten Tag der Zeugenpräsentation zeigte der Anwalt von OpenAI dem Richter eine goldene Trophäe in Eselform, auf der stand: „Sei nie aufhörend der Esel, der für die Sicherheit kämpft“ (Never stop being a jackass for safety) – diese Trophäe gehörte Achiam. 

Hinter der Trophäe verbirgt sich eine Geschichte aus dem Jahr 2018. Achiam sagte als Zeuge aus: Als Musk 2018 seinen Abschied von OpenAI ankündigte und selbst die Entwicklung von AGI beschleunigen wollte, warnte er ihn persönlich, dass das Streben nach Geschwindigkeit die Sicherheit beeinträchtigen könnte – woraufhin Musk ihn sofort als „Esel“ (jackass) beschimpfte. 

Danach schenkten ihm Kollegen, darunter Dario Amodei, der heutige Mitbegründer und CEO von Anthropic und damals Mitarbeiter bei OpenAI, diese Trophäe, um diesen „Schimpfname“ zu gedenken. 

Innerhalb von OpenAI gilt Achiam als zentrale Figur, die das Kernziel der Sicherheit entschlossen verteidigt. Er kritisiert aber häufig öffentlich die gesamte Gemeinschaft der KI-Sicherheitsbranche, was auch viele Kontroversen ausgelöst hat. 

Laut der internen E-Mail, die Wired an alle Mitarbeiter von OpenAI erhalten hat, schrieb er darin: „Heute kennt die ganze Welt die Entwicklungsperspektiven von allgemeiner künstlicher Intelligenz. Auch wenn ich die Grenzen der Spitzenlabore verlasse, kann ich diesem ursprünglichen Ziel treu bleiben. Ich bin überzeugt, dass die Menschheit letztendlich einen friedlichen, noch nie dagewesenen Wohlstand erreichen wird, und in Gesellschaft und Wissenschaft werden unvorstellbare neue Möglichkeiten entstehen. Egal, welchen Weg ich als Nächstes wähle, ich werde gemeinsam mit euch daran arbeiten, diese Vision Wirklichkeit werden zu lassen.“ 

03. Achiam sagt, er „gradiert“ nun: Sein letzter Arbeitstag ist der 24. Juli

Im Folgenden die vollständige Übersetzung von Achiams Abschiedsbrief: 

Vor kurzem habe ich diese Nachricht im Slack von OpenAI mit allen geteilt: 

Liebe Freunde, Kollegen und alle Mitarbeiter! Diesen Monat werde ich „gradiert“. 

Es gibt keinen bestimmten Grund für meinen Abschied, und es gibt auch keinen spezifischen Anlass in diesem Moment, der dazu führt. Aber ich habe schon eine Weile darüber nachgedacht, und jetzt fühlt sich der Zeitpunkt richtig an. Die Welt kennt dieses Geheimnis nun, und ich glaube, dass ich auch außerhalb der Spitzenlabore weiter an diesem Ziel arbeiten kann. 

Ich trat 2017 als 25-jähriger Praktikant bei OpenAI ein. Damals konnten Computer noch nicht sprechen und nicht denken. Jetzt bin ich 34 Jahre alt, habe eine Familie und einen zweijährigen Sohn – und Computer sind inzwischen in der Lage, Spitzenprobleme der Wissenschaft zu lösen. In diesen zehn Jahren hat sich so viel verändert, als wären mehrere Jahrhunderte vergangen. 

Die Zukunft der Menschheit hängt von den Entscheidungen ab, die wir gemeinsam im Zusammenhang mit AGI und Superintelligenz treffen. Alles steht auf dem Spiel. Aber noch wichtiger: Alles ist auch möglich. Wir werden bald in der Lage sein, die ehrgeizigsten Ziele der Menschheit anzugehen. 

Ich glaube, dass wir eine Welt erreichen können, in der die Befriedigung der Grundbedürfnisse aller Menschen nicht nur ein gelöstes Problem ist – sondern in der die Menschen sich sogar darüber beleidigt fühlen, dass die Standards einst so niedrig angesetzt waren. Ich glaube, dass wir eine friedliche, hochgradig wohlhabende Welt mit unvorstellbaren sozialen und wissenschaftlichen Möglichkeiten erreichen können. Egal, was ich als Nächstes tue, ich werde weiterhin mit euch zusammenarbeiten, um diese Vision Wirklichkeit werden zu lassen. 

Wenn du mich vor neun Jahren gefragt hättest, was alles passieren würde, wäre ich über all die guten Nachrichten erstaunt gewesen. Danke, dass ihr all das so besonders gemacht habt. Danke, dass ich das Privileg hatte, mit euch zusammenzuarbeiten. 

Es ist eine schwere Aufgabe, jede Person einzeln zu kontaktieren und zu danken – die Liste ist einfach zu lang. Zum Glück habe ich noch ein paar Wochen Zeit, um das zu erledigen. Mein letzter Arbeitstag ist der 24. 

Für eine sichere AGI.

04. Fazit: Das Sicherheitsthema tritt aus den Laboren heraus – OpenAI muss weiterhin die Frage nach seiner Mission und der Kommerzialisierung beantworten

Nach Achiams Abschied gibt es noch keine öffentliche Antwort darauf, wie die Verantwortlichkeiten der Schnittstellenposition zwischen Sicherheit und Politik bei OpenAI verteilt werden. Dass Dean Ball zum Team „Strategic Futures“ stößt, zeigt, dass OpenAI weiterhin seine Fähigkeiten im Bereich der Spitzen-KI-Politik und -Governance stärkt. Der Fokus solcher Positionen liegt aber nicht mehr nur auf dem Training und der Bewertung von Modellen, sondern auch auf der Kommunikation mit Regulierungsbehörden, der Offenlegung von Informationen für den Börsengang, dem öffentlichen Interesse und der internen Governance. 

Dass OpenAI heimlich den S-1-Entwurf bei der SEC eingereicht hat, bedeutet, dass in den künftigen öffentlichen Börsenprospekten die Modellsicherheit, Nutzerrisiken, regulatorische Unsicherheiten und die Unternehmensstruktur zu Schwerpunkten der öffentlichen Prüfung werden könnten. Für OpenAI ist die Sicherheitsmission nicht mehr nur ein technisches Thema innerhalb des Forschungsteams – sie wird zu einer Frage, die von Kapitalmarkt, Politikinstitutionen und Öffentlichkeit gemeinsam gestellt wird. 

Quelle: Wired 

Dieser Artikel stammt aus dem WeChat-Offiziellen Konto „Zhidong“ (ID: zhidongcom), Autor: Chen Jia. Ver