Der CEO des billionenwertigen KI-Imperiums im Silicon Valley entpuppt sich als zweigesichtiger «Doomsday-Kultführer»

Der Billionen-CEO im Silicon Valley ist tatsächlich ein „zweigesichtiger Weltuntergangsprediger“?!

In den letzten Tagen hat ein gewichtiger langer Artikel von The Information Dario Amodei fast vollständig entblößt.

Nach 42 Arbeitstagen hat der Journalist Cory Weinberg seine Untergebenen, Konkurrenten und Investoren besucht und schließlich ein spannungsgeladenes „zweigesichtiges Persönlichkeitsbild“ zusammengesetzt —

Einerseits warnt er wiederholt, dass die Menschheit durch KI zerstört werden könnte, andererseits tritt er selbst aufs Gaspedal und setzt darauf, dass die „Singularität“ früher eintritt.

Er hat Angst vor KI, wagt aber trotzdem eine große Wette auf KI. Welche Seite von Dario Amodei ist eigentlich die wahre?

Seite A: KI könnte die gesamte Menschheit ausrotten

Anfang dieses Jahres war die öffentliche Stimmung gegenüber KI auf einem Tiefpunkt angekommen, und die Feindseligkeit und Angst der Öffentlichkeit vor dieser Technologie erreichten ihren Höhepunkt.

Auf einer geschlossenen Kernbesprechung bei Anthropic schlugen die anwesenden Direktoren vor:

Anthropic sollte seinen beeindruckenden Brancheneinfluss nutzen, um wie einst Microsoft, Meta oder sogar Google eine PR-„Charm Offensive“ zu starten.

Zum Beispiel sollte das große Potenzial von KI zur Förderung des Wohls der Menschheit, wie die Suche nach neuen Krebsmedikamenten und die Überwindung seltener Krankheiten, im Vordergrund stehen.

Kaum waren die Worte gesprochen, lehnte Dario, der am Ende des langen Tisches saß, den Vorschlag ohne zu zögern sofort ab —

Frühere Leute haben das zwar alle so gemacht, aber diesmal haben wir es mit einer echten „existentiellen Krise“ zu tun.

Am Ende gab es keinen Kompromiss, sondern eine Entwicklung in das andere Extrem.

Während der mit Spannung erwarteten Fußball-Weltmeisterschaft tauchten in den Werbespots von Anthropic plötzlich eine Reihe düsterer, bedrückender Bilder auf: Eine Reihe kalter, dunkler Grabsteine erschien in der Mitte der Aufnahme.

Anthropic deutete damit an, dass KI alle Menschen töten könnte!

Er hat Angst vor KI, und das schon seit zehn Jahren

In den letzten zehn Jahren hat Dario Amodei stets eine hohe Konzentration auf Sicherheit beibehalten.

Bereits 2017, als die ganze Welt noch vom mobilen Internet begeistert war, warnte Dario Amodei vor den Sicherheitsrisiken, die durch AGI entstehen könnten.

2018, als alle über die aufstrebenden Modellfähigkeiten von OpenAI jubelten, zeigte Dario eine fast neurotische Vorsicht.

Zu dieser Zeit setzte er sich über alle Widerstände hinweg und forderte energisch eine unübliche eiserne Regel:

Alle Kernforschungen von OpenAI müssen vor der Veröffentlichung einer strengen Bewertung auf „Informationsschäden“ unterzogen werden, um zu verhindern, dass technische Details an Konkurrenten weitergegeben werden.

Diese fast übermäßige Vorsicht hat die Kollegen bei OpenAI zeitweise erstickt.

2019 bereitete Microsoft vor, 1 Milliarde Dollar als „Rettungsgeld“ in OpenAI zu investieren, das bereits kein Geld mehr hatte.

Trotzdem zwang das Sicherheitsteam von Amodei diese überlebenswichtigen Finanzierungsverhandlungen für mehrere Monate zum Stillstand.

Der Grund: Die Sorge, dass das noch nicht fertig trainierte GPT-3 zu einer außer Kontrolle geratenen AGI werden könnte.

Die damaligen Kollegen spotteten sogar privat, dass die Abteilung von Dario Amodei wie „eine selbstgefällige Priesterklasse, die das Monopol auf die Wahrheit hat“ wirke.

Computer ohne Internetzugang, Dokumente werden persönlich überbracht

Noch interessanter ist, dass Dario Amodei zum Zweck der Geheimhaltung jeglichen Zugang zum externen Netz verweigert.

In seiner Wohnung in San Francisco weigert er sich, Computer zu verwenden, die mit dem externen Netz verbunden sind.

Alle wichtigen Memos werden auf einem vollständig „air-gapped“ Computer erstellt.

Nach dem Schreiben werden sie nicht in die Cloud hochgeladen und nicht per E-Mail versandt, sondern direkt als Papierdokument ausgedruckt, persönlich ins Büro gebracht und an das Team verteilt.

Diese fast paranoide „Bunker-Mentalität“ erreichte 2020 ihren Höhepunkt.

Schließlich verließ er OpenAI aufgrund unterschiedlicher Vorstellungen und gründete Anthropic.

Nach Ansicht des Gründerteams führte Sam Altman, der eine schnelle Kommerzialisierung anstrebte, die Menschheit direkt auf eine Klippe zu.

Diese Erfahrung hat innerhalb von Anthropic zu einer einzigartigen Kohäsion geführt. Die Mitarbeiter scherzen sogar privat über diese extreme Wachsamkeit gegenüber dem ehemaligen Arbeitgeber als „Sama Derangement Syndrome“.

Heute verwirrt die angespannte, alarmbereite Stimmung innerhalb von Anthropic Außenstehende.

Seite B: Er trägt die „Singularität“ in seinem Kopf

Die Investoren von Anthropic haben eine private Bewertung, die fast zum Konsens geworden ist: „Er ist eher wie ein religiöser Führer als ein CEO.“

Dario mischt sich selten in das tägliche Management ein. Vergütung, Organisationsstruktur und Personaländerungen überlässt er fast vollständig seiner Schwester Daniela.

Er selbst richtet seinen Blick wie ein Leuchtturm und durchstreift alle Ecken des Unternehmens.

Kürzlich richtete sich dieser Leuchtturm auf das interne Team von Ökonomen. Sie verwendeten einfache mathematische Modelle, um die möglichen Auswirkungen der „Singularität“ zu bewerten:

Eine langsame Singularität könnte nur 0,5 Prozentpunkte zum Wirtschaftswachstum der USA beitragen, und die Beschäftigung bleibt weitgehend stabil. Eine schnelle Singularität könnte 4 Prozentpunkte beitragen und gleichzeitig die Arbeitslosenquote deutlich erhöhen.

Nach der Prüfung sagte Dario nur: Das stimmt ungefähr mit dem überein, was ich mir vorgestellt habe.

Wenn die Mitarbeiter über Dario Amodei sprechen, reden sie wie über einen Mystiker. „Er kann die Zukunft vorhersehen“, sagte einer. „Er hat die Singularität im Kopf“, erklärte ein anderer.

Seine zweimal monatlich stattfindende Vollversammlung wird als „Dario Amodeis Reise der Visionen“ bezeichnet. Bei diesen Versammlungen öffnet er ein Dokument mit umfassenden Inhalten und äußert offene Meinungen zu KI, Politik, Krieg und Gesellschaft.

Auf Slack kommuniziert er direkt und auf Augenhöhe, ist zugänglich und erzeugt dadurch fast religiöse Loyalität.

Diese Art der Führung ist im Silicon Valley fast eine Ausnahme. Die meisten CEOs werden zu „Wachstumsmaschinen“ ausgebildet, während Dario eher wie ein „Gott“ wirkt, der sich selbst zu einer Lehre der Sicherheit gemacht hat.

Dieser einzigartige Führungsstil hat innerhalb von Anthropic eine Organisationskultur aufgebaut, die einem „Tempel“ ähnelt.

Die talentierten Mitarbeiter kommen hier nicht nur wegen des Millionen-Jahresgehalts zur Arbeit, sondern um in einer von Kapital korrumpierten Welt den gemeinsamen Glauben zu verwirklichen, „die Menschheit zu retten“.

Kommerzielle Unternehmen treiben ihre Mitarbeiter mit KPIs an, aber der Tempel nutzt nur den Glauben.

Jahreseinnahme von 47 Milliarden US-Dollar

Investoren haben Angst, dass er kein Geld mag

Auf dem Weg zur Singularität hat Anthropic ein fast mythisches kommerzielles Wunder geschaffen —

Es wurde vor nur 5 Jahren gegründet, hat gerade über 3000 Mitarbeiter und wird heute mit bis zu 965 Milliarden US-Dollar bewertet.

Ausgehend von einer Bewertung von etwa 4,1 Milliarden US-Dollar im Mai 2023 ist die Bewertung in nur drei Jahren auf das etwa 235-fache des ursprünglichen Werts angestiegen.

Diese Zahl hat den seit fast einem halben Jahrhundert bestehenden Datenbankgiganten Oracle übertroffen.

Man kann einen spannungsvollen Vergleich anstellen: Bis Ende Mai 2026 beschäftigt Oracle etwa 141.000 Mitarbeiter, während Anthropic nur 2 bis 3 % dieser Anzahl hat.

Heute hat Anthropic das schnellste Umsatzwachstum in der Geschichte verzeichnet.

Aber seltsamerweise sind die Top-Investoren, die bei dem bevorstehenden Börsengang viel Geld verdienen wollen, nicht glücklich, sondern zittern vor Angst.

„Meine größte Angst ist, dass er sich überhaupt nicht für Geld interessiert.“

So schrieb ein erfahrener Silicon-Valley-Investor, der Anthropic schon früh untersucht hatte, in seinen Notizen.

Ein anderer Fondsmanager, der große Positionen bei dem Börsengang aufbauen will, seufzte nach einem Gespräch fast flehend: „Ich bitte ihn, kann er aufhören, alle zu erschrecken?“

Man muss wissen, dass Dario gegenüber Kapitalgiganten sitzt, die über Billionen an Vermögenswerten verfügen und es gewohnt sind, alles an Wachstumsraten, Gewinnen und Bewertungen zu messen.

Aber das, worüber Dario am liebsten mit ihnen diskutiert, ist nicht der kommerzielle Plan von Anthropic, sondern die „Wahrscheinlichkeit, dass KI die Menschheit zerstört“.

Mit Gaspedal nach der Bremse suchen: Eine große Wette über das Schicksal der gesamten Menschheit

Um zu verhindern, dass KI die Welt zerstört, muss man selbst die stärkste KI entwickeln —

Das ist das erschreckendste Paradoxon von Dario.

Da der Zug zur „Singularität“ nicht mehr angehalten werden kann, zieht er es vor, das Lenkrad fest in der Hand eines „Weltuntergangsgläubigen“ wie sich selbst zu halten, statt es an einen rennenden „Verrückten“ zu übergeben.

So sehen wir das widersprüchlichste Szeno in der Technikgeschichte: Er versucht, eine wild laufende Gelddruckmaschine mit den Methoden des Tempelbaus zu steuern.

Aber das ultimative Streben des Kapitals ist immer unbegrenztes Wachstum.

Wenn die Begeisterung für einen Marktwert von einer Billion US-Dollar gleichzeitig mit ASI eintritt, kann dieser „Weltuntergangsprediger“ dann noch das Biest bändigen, das er selbst großgezogen hat?

Die Gläubigen wetten, und das Kapital wettet auch.

Und wir alle wurden von ihm an diesen Rückzugstisch ohne Ausweg gezogen.

Quellen:

https://www.theinformation.com/articles/dario-amodei-spread-anthropics-religion-stirred-silicon-valley

https://www.iheart.com/podcast/1119-listen-to-the-story-8453292