Dalio und Altman: Die von Liebe und Hass geprägte komplizierte Beziehung zwischen den KI-Giganten

Dario: Ich werde zusammen mit Daniella und mehreren Kernforschern OpenAI offiziell verlassen.

Altman: Alle, die vorhaben, zurückzutreten, verlassen Sie bitte das Meeting.

Dario, seine Schwester und eine Gruppe von Ingenieuren haben nacheinander das Online-Meeting verlassen......

Dario hat alles aufgegeben: Optionen im Wert von mehreren zehn Millionen Dollar, die erreichbare finanzielle Freiheit und das von ihm selbst aufgebaute GPT3, das der Kern von ChatGPT ist, der zwei Jahre später die globale Ära der künstlichen Intelligenz einleitete.

Damit gingen die zwei mächtigsten Personen in der KI-Szene getrennte Wege.

Der Grund für Darios Weggang war, dass Altman zu radikal vorging und die Sicherheit zugunsten größerer und intelligenterer Modelle vernachlässigte. Damals war Dario wie ein heldenhafter Drachentöter, der entschlossen war, die Sicherheit der Menschheit zu schützen.

Sechs Jahre später schuf Dario mit höherer Geschwindigkeit größere und stärkere Modelle, übertraf Altman erfolgreich und wurde zum KI-Unternehmen mit der weltweit höchsten Bewertung – wurde aber zugleich zu dem Typ von Mensch, den er einst um jeden Preis aufhalten wollte.

All dies geht auf ein Abendessen in jenem Sommer zurück.

01 Das Rosewood-Abendessen

Im Sommer 2015 saßen mehrere Personen im Restaurant des Rosewood Hotels an der Dune Road in Silicon Valley zusammen. Die Initiatoren waren Musk und Sam Altman. Sie beschlossen, ein Labor zu gründen, das später zu OpenAI werden sollte. Das einzige Ziel war es, KI zu schaffen, die der gesamten Menschheit zugutekommt.

Später wurde dieses Essen von der ganzen Welt als das Rosewood-Abendessen bezeichnet.

Altman war damals der Leiter von Y Combinator. Am Esstisch saßen außerdem Greg Brockman, der Chief Technology Officer von Stripe, Ilya Sutskever, der vielversprechendste Forscher bei Google Brain, und Dario Amodei, der damals noch bei Google arbeitete.

Mit unbegrenzten Vorstellungen von KI versprach Musk, 1 Milliarde US-Dollar zur Verfügung zu stellen, um dieses Labor gemeinsam zu gründen. Alle stimmten damals zu, nur Dario sagte nicht sofort zu.

Nachdem Dario einige Monate bei Google Brain verbracht hatte, betrat er endlich die Büros von OpenAI.

Er erinnerte sich später: Damals fragte er Altman und Brockman: Überall heißt es, euer Ziel sei es, freundliche KI zu schaffen und sie dann quelloffen zu machen – ist das wirklich wahr?

Die Antwort, die er erhielt, lautete: Unser aktuelles Ziel ist es, das Beste zu tun.

Obwohl es eine vage Antwort war, trat Dario trotzdem OpenAI bei, da er für seine Sicherheitsforschung eine erstklassige Plattform brauchte, die ihm damals nur OpenAI bieten konnte.

Und OpenAI brauchte zu dieser Zeit genau ein Aushängeschild für Sicherheit. Mit ihm an Bord war es einfacher, Geld zu beschaffen und die eigene Geschichte überzeugender zu gestalten.

Im März 2017 spendete die Stiftung Open Philanthropy 30 Millionen US-Dollar an OpenAI, mit nur einer Bedingung: Holden Karnofsky trat in den Vorstand ein. Er war Mitbegründer der Stiftung und stand kurz davor, Darios Schwester Daniela zu heiraten.

02 Von Moores Gesetz zum Skalierungsgesetz

2018 veröffentlichte Dario bei OpenAI einen Bericht mit dem Titel *KI und Rechenleistung*.

Sie ermittelten die tatsächlich verbrauchte Rechenleistung bei jeder wichtigen KI-Durchbruch in der Geschichte: Sie verdoppelte sich fast alle 3,4 Monate und stieg von 2012 bis 2018 in nur 6 Jahren um das 300.000-fache.

Diese Geschwindigkeit übertrifft Moores Gesetz bei weitem. Der Wettbewerb im KI-Zeitalter ist größer und schneller.

Als er im Baidu-Labor arbeitete, hatte Dario nur eine Intuition, die später bei OpenAI immer wieder bestätigt wurde. Darios Team gab ihr einen formelleren Namen: das Skalierungsgesetz.

Je größer das Modell, je mehr Daten und je ausreichender die Rechenleistung, desto intelligenter wird die KI. Dieses Gesetz wurde später zum Glauben der gesamten Branche.

Als GPT-2 im Februar 2019 entstand, plädierte Dario dafür, es nicht zu veröffentlichen. Er führte zwei Gründe an: Das Modell könnte missbraucht werden, und die Quelloffenlegung würde stärkere Fähigkeiten kostenlos an Dritte weitergeben.

Innerhalb und außerhalb des Unternehmens hielt man ihn für übervorsichtig. Schließlich wurde ein Kompromiss geschlossen: OpenAI veröffentlichte es in vier Schritten: Im Februar wurde zuerst die kleinste Version herausgegeben, im Mai die Version mit 345 Millionen Parametern, im August die Version mit 762 Millionen Parametern, und erst im November wurde die vollständige Version mit 1,5 Milliarden Parametern übergeben. Der gesamte Prozess dauerte neun Monate.

Im August desselben Jahres luden zwei noch studierende Doktoranden eine quelloffene Nachbildung von GPT-2 inklusive Code und Gewichten ins Internet hoch.

Das veranlasste Dario zu einer sehr kontraintuitiven Entscheidung: Beschleunigung!

Wenn das Skalierungsgesetz gilt, sollte man das Modell so schnell wie möglich vergrößern, es aber nach der Vergrößerung nicht sofort veröffentlichen. Mit der gewonnenen Vorsprungzeit kann man erforschen, wie man es sicher macht.

Warum muss es schnell gehen?

Denn wenn du nicht beschleunigst, werden andere es tun. Sogar zwei Studenten können eine quelloffene Version nachbauen – andere werden nur größere, unsichere Dinge schaffen.

Um sicherzustellen, dass AGI nützlich ist, muss die Person, die sich am besten mit Sicherheit auskennt, an der Spitze stehen. Wenn man einen Schritt zu langsam ist, verliert man sogar die Berechtigung, Sicherheitsforschung zu betreiben.

03 Entweder 10 Mal besser als die Konkurrenz – oder raus.

Peter Thiel schrieb in seinem 2014 erschienenen Buch *Zero to One*: Ein neues Produkt muss 10 Mal besser sein als seine Alternativen, um wirklich bedeutend zu sein.

Dies wurde zu Altmans Handlungsregel: Entweder 10 Mal besser als die Konkurrenz – oder raus.

Dario und Sam sind beide überzeugt, dass AGI unweigerlich entwickelt wird.

Aber das Training großer Modelle ist ein Rechenleistungs- und Geldfresser: Zehntausende Grafikkarten, enorme Mengen an Strom – die Geldverbrennungsrate übersteigt die Tragfähigkeit eines gemeinnützigen Labors bei weitem. Allein die Grafikkarten stellen Hardware im Wert von mehreren hundert Millionen Dollar dar.

Wie viel Geld hatte OpenAI auf dem Konto?

Bei der Gründung versprach Musk 1 Milliarde US-Dollar zu geben, von dem am Ende nur 130 Millionen eingingen. Auch Open Philanthropy spendete nur lächerliche 30 Millionen US-Dollar.

Um größere und stärkere Modelle schneller zu trainieren, brauchte es mehr Kapital. Um mehr Geld zu finden, wandte sich Altman an Bill Gates und Microsoft.

Im Juli 2019 kündigte Microsoft an, zuerst eine Kooperation über 1 Milliarde US-Dollar abzuschließen und gleichzeitig OpenAI beim Bau eines Supercomputers mit zehntausend Grafikkarten zu helfen. Am Tag der Bekanntgabe stieg der Marktwert von Microsoft um 10 Milliarden US-Dollar.

Gleichzeitig war dies für OpenAI, das fast 4 Jahre bestand und noch keinen einzigen Cent Einnahmen erzielte, nicht nur eine riesige Summe, sondern löste auch viele technische Probleme. Der Bau und die Einrichtung dieses Supercomputers dauerten fast ein Jahr, bis er 2020 offiziell übergeben wurde.

Und genau Dario und sein Team trainierten mit diesem Supercomputer das damals größte Modell: GPT-3 mit 175 Milliarden Parametern.

Ausgerechnet der einst konservativste Dario wurde zum entschiedensten Befürworter der Beschleunigung bei OpenAI.

Obwohl der von ihm beschleunigt erzeugte GPT-3 unsaubere Trainingsdaten hatte. Dieser Datensatz hieß Books2, umfasste etwa 402 GB und wurde nie vollständig offengelegt – aber Insider sagten, er bestand aus Texten aus Raubkopien von Büchern.

Später verklagten die Schriftsteller Sarah Silverman, Paul Tremblay, Mona Awad, George R. R. Martin, Autor von *Das Lied von Eis und Feuer*, sowie John Grisham, Jodi Picoult und andere OpenAI nacheinander vor Gericht.

04 Getrennte Wege: Der Drachentöter greift nach dem Schwert

Während Dario damit beschäftigt war, das Modell zu vergrößern, arbeitete Altman weiter an der Kapitalbeschaffung. Um an Geld zu kommen, verhandelte Altman über tiefere technische Lizenzen.

Als Amodis Sicherheitsteam die Klauseln später sah, stellten sie fest: Die an Microsoft versprochene Zugriffsrechte gingen weit über den internen Konsens hinaus, den das Unternehmen zuvor erzielt hatte.

Wenn das Modell tatsächlich schwere Sicherheitsprobleme verursachen würde, würden diese Klauseln das Sicherheitsteam der Macht berauben, den Betrieb zu stoppen.

Ein Beteiligter der Sicherheitsgruppe beschrieb die damalige Situation später so:

„Wir haben etwas eingetauscht, das wir nicht einmal vollständig verstehen.“

Amodi und sein Team, die eigentlich an den Entscheidungen hätten teilnehmen sollen, waren genau die letzten, die davon erfuhren. In den folgenden zwei Jahren erkannten die Geschwister Amodei allmählich die Vorgehensweise.

Jede wichtige Entscheidung wurde zuerst umgesetzt und dann mitgeteilt. Als sie davon erfuhren, war es bereits zu spät. Jede Beruhigung war auf ihre Wünsche zugeschnitten, sodass sie glaubten, ihre Meinungen hätten noch Gewicht. Als alles nicht mehr rückgängig zu machen war, erkannte Dario, dass das Recht auf Mitsprache immer nur eine Illusion gewesen war.

Im Juni 2020 wurde die API von GPT-3 offiziell eingeführt – das erste Mal, dass OpenAI ein großes Modell zu einem Produkt machte und an Kunden übergab.

Vor der Einführung bestand die kommerzielle Fraktion um Sam Altman und Greg Brockman darauf, zuerst die Markteinführung voranzutreiben, die Kommerzialisierung zu beschleunigen und die Vorherrschaft in der Branche zu ergreifen.

Die Sicherheitsfraktion um Dario Amodei war dagegen der festen Überzeugung, dass die Sicherheitsausrichtung des Modells noch nicht ausgereift sei und es nicht voreilig öffentlich zugänglich gemacht werden sollte.

Die beiden Fraktionen stritten sich unzählige Male heftig, zerrten aneinander und setzten sich gegenseitig unter Druck. Die internen Sitzungen standen fast täglich still. Schließlich setzte sich die kommerzielle Linie durch, und GPT-3 wurde wie geplant erfolgreich eingeführt.

Nach der Einführung war das Produkt ein überraschender Erfolg.

Das Modell mit 175 Milliarden Parametern zeigte eine beeindruckende Fähigkeit zum Lernen mit wenigen Beispielen. Entwickler nutzten es, um Texte zu schreiben, Code zu generieren und Geschichten zu erfinden. In nur wenigen Monaten entstanden hunderte von KI-Startups, und die gesamte Entwicklergemeinde im Silicon Valley war davon beeindruckt.

Im September 2020 erwarb Microsoft die exklusive Lizenz für GPT-3. Gleichzeitig erhielt Microsoft Zugriff auf das zugrundeliegende Modell, konnte GPT-3 direkt in seine eigenen Produkte integrieren und besaß die Rechte zur unabhängigen Modifikation und Weiterentwicklung.

Dies war eine wichtige Umsetzung der 1-Milliarde-Dollar-Investitionsvereinbarung zwischen beiden Seiten, was bedeutete, dass das Kernmodell von OpenAI tief an den kommerziellen Giganten gebunden war.

Altman gewann diesen Richtungsstreit, aber hinter diesem großen Erfolg geriet OpenAI intern in einen ungewöhnlich stillen Zustand.

Alle akzeptierten die Entscheidung zur Kommerzialisierung, und niemand diskutierte die Sicherheitsrisiken mehr eingehend. Diese stille Übereinkunft zerschlug Amodis letzte Hoffnungen vollständig.

Also trafen sich Amodei, seine Schwester Daniela, die inzwischen Vizepräsidentin für Sicherheit und Politik war, und mehrere Kernforscher privat, um über dasselbe Thema zu sprechen: OpenAI zu verlassen.

Dario war der Ansicht, dass das Skalierungsgesetz bedeutet, dass die Hürden für das Training modernster Modelle jedes Jahr höher werden. Wenn sie länger warten, werden Rechenleistung und Kapital so groß, dass sie nie mehr einsteigen können.

So ereignete sich im Dezember 2020 bei der unternehmensweiten Videokonferenz die Szene, die den Anfang dieses Textes bildet.

05 Der Streit beginnt

Im Mai 2021 gründete Dario Anthropic. Der Name stammt aus dem Griechischen Wort *anthropos*, das „Mensch“ bedeutet.

In Interviews betonte Dario immer wieder öffentlich: „Anders als Sam.“ „Anders als OpenAI.“

Ist es überhaupt möglich, eine sicherere KI zu bauen?

Um nicht dieselben Fehler zu machen, registrierte er das Unternehmen nicht nur als gemeinnütziges Unternehmen, sondern gründete auch einen „Langfristigen Nutzen-Trust“, der aus fünf Mitgliedern besteht, die keine finanziellen Beziehungen zum Unternehmen haben. Sie haben das Recht, einige Direktoren zu ernennen und abzuberufen, um auch nach einem Börsengang die Sicherheitsmission zu wahren.

Wie Altman ist auch Darios ultimatives Ziel AGI.

Um AGI zu erreichen, muss man das stärkste Modell trainieren – was mehr Grafikkarten, mehr Strom, mehr Mitarbeiter und mehr Kapital erfordert.

Viele dachten, dass die Finanzierung von Claude von Anfang an reibungslos verlief, aber das Gegenteil war der Fall.

Bei der Gründung von Anthropic lehnten alle großen VC-Unternehmen sie ab. Die Serie-A-Finanzierung in Höhe von 124 Millionen US-Dollar wurde von Größen aus dem Umfeld des effektiven Altruismus wie dem Skype-Gründer getätigt, die in Dario investierten.

Im April 2022 schloss Anthropic eine Serie-B-Finanzierung in Höhe von 580 Millionen US-Dollar ab. Diese Finanzierung brachte Dario aber in größere Schwierigkeiten: 500 Millionen US-Dollar davon stammten von Sam Bankman-Fried.

Der Gründer von FTX war damals der berühmteste „gute Millionär“ der Welt. Er behauptete, an den effektiven Altruismus zu glauben: so viel Geld wie möglich zu verdienen und dann alles zu spenden.

Aber einige Monate später brach FTX zusammen und zog Anthropic in den Rechtsstreit hinein. Gerichtsakten zeigen, dass diese 500 Millionen US-Dollar aus Kundeneinlagen stammten und illegal veruntreut wurden.

Diese 500 Millionen US-Dollar wurden Teil des größten Finanzbetrugs in der Geschichte der USA. Im März 2024 wurde S