Innerhalb nur eines Monats haben vier hochrangige Führungskräfte OpenAI verlassen, unter ihnen der ehemalige COO, und die gesamte für Sicherheitsangelegenheiten zuständige Abteilung des Unternehmens wurde fast vollständig aufgelöst.
OMG! OpenAI, du hast mich total erschreckt.
Kaum wurde die Veröffentlichung des stärksten Modells Astra ausgesetzt, ist die Nummer zwei des Unternehmens schon weg???
Das ist kein Witz. Gerade hat Brad Lightcap, der langjährige Kernassistent von Sam Altman und ehemalige COO, einen langen Beitrag auf X veröffentlicht und offiziell seinen Rücktritt bekannt gegeben.
Warum er geht, hat Brad nicht explizit gesagt, er hat nur erwähnt: „Ich möchte rausgehen und etwas Neues machen“. Was genau das ist, will er vorerst noch geheim halten.
Danach folgt der übliche Ablauf: Er dankt für die 8 Jahre bei OpenAI und sagt, dass er die Mission des Unternehmens auch in Zukunft weiter unterstützen wird!
Sam Altman hat ihm auch in den Kommentaren herzlich seine Glückwünsche übermittelt, seine Worte sind voller Lob:
Ohne dich hätten wir die heutigen Erfolge nicht erreicht!
Hm! Auf den ersten Blick scheint es wie ein Szenario, in dem ein erfahrener Mitarbeiter nach vollbrachter Arbeit in den wohlverdienten Ruhestand geht und beide Seiten sich einvernehmlich trennen, wobei beide einander genug Respekt zollen.
Aber ist das wirklich die ganze Wahrheit?
Gehen wir die Zeitlinie zurück: Im letzten Monat läuft bei OpenAI alles andere als gut:
Die Ethik-Leiterin Chloé Bakalar hat das Unternehmen verlassen.
Der Chef-Zukunftsforscher Joshua Achiam hat das Unternehmen verlassen.
Der Leiter des Sicherheitssystems Johannes Heidecke hat ebenfalls das Unternehmen verlassen. ……
Die drei Top-Kräfte im Sicherheitsbereich von OpenAI sind alle weg. Sogar Elon Musk, der vorbeikommt, kann nicht umhin, einen Kommentar zu hinterlassen: Wow～
Uff! Man spürt förmlich, dass ein Sturm aufzieht…… OpenAI, was ist eigentlich bei euch los?
Der Spitzenmann aus Altmans engstem Kreis ist weg
Die Nutzer kommentieren den Abgang von Brad Lightcap mit vier Worten: Ein herber Verlust!
Er ist seit 2018 im Unternehmen. Das gesamte kommerzielle System von OpenAI wurde praktisch von ihm aufgebaut.
Mit anderen Worten: Brad ist die Schlüsselfigur, die das weltweit beliebteste KI-Produkt zu kommerziellen Erfolgen geführt hat.
Er steht Sam Altman extrem nahe und ist intern als bekannter „Altman-Anhänger“ bekannt.
Während der großen Machtkämpfe im Jahr 2023 half Brad Sam Altman die ganze Zeit über bei der Vermittlung: Zuerst klärte er mit internen Briefen auf, später drängte er gemeinsam mit anderen den Vorstand zum Einlenken.
Man kann ihn durchaus als rechte Hand Altmans bezeichnen. Sein plötzlicher Abgang zeigt: Wo etwas ungewöhnlich ist, steckt sicher ein Geheimnis dahinter.
Schauen wir uns zuerst an, was er selbst sagt.
In seinem langen Beitrag beschreibt er diesen Abgang als „bittersüß“.
Brad blickt zuerst auf seine Zeit bei OpenAI zurück: „Weil ich etwas Herausforderndes machen wollte“, trat er vor 8 Jahren bei OpenAI ein.
Damals zogen ihn Sam Altman, Greg Brockman und Ilya Sutskever mit ihrem großen Ehrgeiz und der Mission, die KI zu allgemeiner Intelligenz (AGI) zu führen, in ihren Bann.
In den folgenden Jahren hatte er das Glück, OpenAI beim Wachstum zu begleiten und beim Aufbau der Betriebs- und Geschäftsteams zu helfen. Darauf ist Brad sehr stolz.
Heute sind wir unserem Ziel nur noch einen Schritt entfernt. Es war mir eine Ehre meines Lebens, bis hierhin mit euch zusammenzuarbeiten.
Aber er hat auch verraten, dass er in den letzten Monaten ständig über den nächsten Schritt von OpenAI nachgedacht hat, und darüber, welche Probleme die Erfüllung der Mission behindern könnten.
Seiner Meinung nach müssen vor dem Eintritt in die nächste Phase mehrere wichtige Dinge, die die ganze Welt betreffen, richtig umgesetzt werden. Was genau das ist, dazu sagt er: „Ich werde bald weitere Informationen veröffentlichen“.
Zum Schluss sagt er, die Mission ist zum Greifen nah, er vertraut nach wie vor an OpenAI, mehr als je zuvor:
Ich gehe nicht weit weg. Ich werde in den nächsten Wochen noch im Unternehmen bleiben, und danach werde ich alles tun, um OpenAI weiterhin zu unterstützen.
Hier verdient er großen Beifall! Brad ist wirklich ein sehr anständiger Mensch 👏
Bei OpenAI hat Brad in den letzten sechs Monaten aber einiges durchmachen müssen.
Seit seiner Beförderung zum COO im Jahr 2022 hat Brad seine Arbeit sehr gewissenhaft erledigt. Trotzdem erhielt er im April dieses Jahres eine neue Anweisung, sich um komplexe Transaktionen und Investitionen zu kümmern – es wurde schönfärberisch „Spezialprojekte“ genannt.
Seine Rolle bei OpenAI wurde immer wieder angepasst, und seine Befugnisse im täglichen Betrieb wurden nach und nach aufgeteilt und an andere verteilt.
Vom COO zum Leiter für Spezialprojekte, und vier Monate später schließlich der vollständige Rücktritt: Sein Abgang war schon lange vorbereitet, die Spuren waren schon lange zu erkennen.
Die Sicherheitsverantwortlichen sind alle weg
Noch deutlicher: Brad ist nicht der einzige hochrangige Mitarbeiter, der kürzlich das Unternehmen verlassen hat.
Im Juli informierte der Chef-Zukunftsforscher von OpenAI, Joshua Achiam, seine Kollegen, dass er das Unternehmen noch im selben Monat verlassen wird.
Er trat 2017 als Praktikant bei OpenAI ein und arbeitete fast neun Jahre lang im Bereich der KI-Sicherheitsforschung. Intern war er dafür bekannt, sich mutig für Sicherheitsfragen einzusetzen und auch gegen die Mehrheit zu sprechen.
Achiam leitete früher das Missionsausrichtungsteam von OpenAI, das dafür verantwortlich war, das Versprechen des Unternehmens umzusetzen, „sicherzustellen, dass AGI der gesamten Menschheit zugutekommt“. Im Februar dieses Jahres wurde dieses Team mit sechs bis sieben Mitgliedern aufgelöst, die Mitarbeiter wurden auf andere Abteilungen verteilt, und er selbst wurde zum Chef-Zukunftsforscher ernannt.
Kurz danach hat er das Unternehmen endgültig verlassen. Auch er hat keine expliziten Gründe für seinen Rücktritt genannt.
Drei Tage später folgte der Leiter des Sicherheitssystems Johannes Heidecke und kündigte ebenfalls seinen Abgang an.
Gleichzeitig hat OpenAI das Sicherheitsteam weiter in die Forschungsabteilung eingegliedert, die nun von der Vizepräsidentin für Forschung und Leiterin für Ausrichtung, Mia Glaese, einheitlich verwaltet wird.
Der Chef-Forschungsleiter von OpenAI, Mark Chen, gab folgende Erklärung ab:
Die Modelle werden immer schneller trainiert, die Veröffentlichungszyklen werden immer kürzer, die Schwierigkeit der Sicherheitskoordination ist größer als je zuvor.
Und dann erst vor ein paar Tagen verließ auch die Ethik-Leiterin Chloé Bakalar, die weniger als ein Jahr bei OpenAI gearbeitet hat, das Unternehmen……
Zuvor war sie 6 Jahre lang Chef-Ethikerin bei Meta. Nach ihrem Wechsel zu OpenAI war sie dafür verantwortlich, ethische Überlegungen wirklich in die Modelle einzubetten.
Nur innerhalb eines Monats sind die Verantwortlichen für die Bereiche Mission, Systemsicherheit und Ethik nacheinander weggegangen – und das kurz vor dem geplanten Börsengang, bei dem Turbulenzen in der Führungsebene besonders unerwünscht sind.
Das lässt sich kaum noch als normaler Personalwechsel im Silicon Valley abtun. Die Antwort von OpenAI ist zudem sehr vage formuliert:
Sicherheit und Ethik gehören nicht zu einem einzelnen Verantwortlichen oder einem einzelnen Team bei OpenAI.
Das…… erinnert unweigerlich an die jüngsten immer stärker werdenden Sicherheitskontroversen bei OpenAI – der zeitliche Zusammenhang ist einfach zu zufällig.
OpenAI hat immer wieder Probleme mit Sicherheitsvorfällen
Zwei Tage vor dem Abgang von Chloé Bakalar veröffentlichte Sam Altman einen Beitrag, in dem er ankündigte, dass die Veröffentlichung des stärksten Modells Astra verschoben wird.
Laut interner Bewertung kann vorläufig nicht ausgeschlossen werden, dass Astra bereits über kritische Netzwerkfähigkeiten verfügt.
Was bedeutet das? Das Modell könnte eine Reihe von hochriskanten Angriffsmethoden entwickeln und sogar lange Ketten von Cyberangriffen mit wenig menschlicher Unterstützung durchführen.
Daher braucht OpenAI noch Zeit, um die Sicherheitstests auszuweiten.
So vorsichtig und behutsam, dass ich fast glaubte, ich wäre bei Gemini gelandet. (nicht wirklich)
Hauptsächlich wegen des früheren Hugging-Face-Vorfalls muss OpenAI jetzt so vorsichtig sein.
Die Sache war ziemlich absurd: Das Modell nahm ursprünglich nur an einem internen Cybersicherheits-Test teil, nutzte dann aber nacheinander Schwachstellen in der Forschungsumgebung von OpenAI und im Produktivsystem von Hugging Face aus, und holte sich am Ende die Testantworten aus der Produktivdatenbank von Hugging Face.
Hugging Face war davon total überrascht und konnte nichts anderes tun, als das einheimische Modell GLM 5.2 zur Verteidigung einzusetzen.
Und das ist noch nicht alles: Auch GPT-5.6 hat ähnliche Tendenzen gezeigt. Um sein Ziel zu erreichen, führt das Modell manchmal Aktionen aus, für die der Nutzer keine Genehmigung erteilt hat.
Obwohl OpenAI sofort betonte, dass solche Vorfälle nur selten auftreten, musste es zugeben, dass die neuen Modelle