200 Millionen US - Dollar: Musk setzt auf den Mann hinter ihm.

Als Prominent in der Technologiebranche erregt jeder Schritt von Elon Musk Aufmerksamkeit.

Kürzlich kündigte Igor Babuschkin, der enge Partner von Musk und Mitbegründer von XAI, seinen Austritt aus XAI an. Doch das Ende ihrer engen Beziehung ist damit noch nicht erreicht. Musk hat sich verpflichtet, 200 Millionen US-Dollar zu investieren und wird Limited Partner (LP) in Babuschkins neu gegründeter Risikokapitalgesellschaft, Babuschkin Ventures.

Die Gesellschaft wird die Forschung zur KI-Sicherheit unterstützen und in Start-ups investieren, die „den Fortschritt der Menschheit vorantreiben und die Geheimnisse des Universums enthüllen“. Dies ermöglicht es Babuschkin, der ursprünglich Geschäftspartner war, Musk auf andere Weise, nämlich als „Investor“, bei seinen technologischen Entdeckungen zu unterstützen.

Babuschkins aufsehenerregende Wende

Für Babuschkin ist dieser Wechsel seiner Rolle zweifellos ein neuer Anfang. Während seiner Zeit bei xAI erzielte er beeindruckende Ergebnisse.

Nach vier Monaten gründete Babuschkin zusammen mit seinem Team das „Memphis Supercluster“ mit 100.000 H100-Chips. Die Spitzenrechenleistung beträgt 2,6 exaFLOPS (FP16), was 33 % schneller ist als die von GPT-4 in der gleichen Phase.

Im März 2024 veröffentlichte xAI Grok-1 (314 Milliarden Parameter), das im November desselben Jahres zu Grok-4 weiterentwickelt wurde. Grok-4 erreichte auf der MMLU-Benchmark einen Score von 87,4, nur knapp hinter GPT-4 Turbo mit 87,6.

Währenddessen schrieb Babuschkin persönlich das Scheduling-Framework, wodurch die Wiederherstellungszeit bei Trainingseinbrüchen von durchschnittlich 30 Minuten auf 90 Sekunden reduziert wurde. Dies führte zu einer erheblichen Steigerung der Trainingsleistung. Später führte er die heterogene Mischung von TPU-v5 und GPU ein und senkte die Trainingskosten pro Billion Tokens um 27 %. Dadurch gewann xAI einen Kostenvorteil im harten Wettbewerb und Babuschkin wurde zur „Schlüsselperson“ in der Entwicklung von xAI.

Diese Fortschritte führten auch zu einem reibungslosen Finanzierungsverlauf für xAI. Im Mai 2024 absolvierte xAI eine Serie B-Finanzierung in Höhe von 6 Milliarden US-Dollar, was einen Post-Money-Wert von 24 Milliarden US-Dollar zur Folge hatte. Die Investorenliste war beeindruckend und umfasste namhafte Unternehmen wie A16Z, Sequoia Capital und die Saudi PIF.

Im November 2024 absolvierte xAI eine weitere Finanzierung in Höhe von 5 Milliarden US-Dollar, wodurch der Unternehmenswert sich verdoppelte und auf 50 Milliarden US-Dollar lag. Einen Monat später gab xAI bekannt, dass eine Serie C-Finanzierung in Höhe von 6 Milliarden US-Dollar abgeschlossen wurde. Die Hauptinvestoren waren A16Z, BlackRock, Fidelity Management & Research Company, Kingdom Holding Company, Lightspeed Venture Partners und Sequoia Capital.

Warum hat Babuschkin also trotz des schnellen Wachstums von xAI seinen Austritt entschieden? Tatsächlich war dies kein Zufall. In einem offenen Brief erklärte Babuschkin: „Nachdem ich xAI in die Spur gebracht habe, möchte ich meinen nächsten Berufsschritt auf die KI-Sicherheit setzen.“

Im Juni dieses Jahres traf er sich mit Max Tegmark, Gründer der Future of Life Institute (FLI), in Cambridge zu Abendessen und besprach die Probleme, die Grok mit der Herstellung von Nervengiften und einfachen Atomwaffen aufgeworfen hatte.

Diese Probleme zeigten die fehlende „Sicherheitsbarriere und Governance-Framework“ auf und waren der Auslöser für Babuschkins Entscheidung, seinen Austritt zu beschließen und sich auf das Feld der KI-Sicherheit zu konzentrieren.

Musks 200-Millionen-Dollar-Investition

Obwohl Babuschkins Austritt für xAI bedauerlich ist, hat Musk seine Unterstützung für Babuschkin nicht aufgegeben.

Durch seine Zusage, 200 Millionen US-Dollar in Babuschkin Ventures zu investieren und Limited Partner zu werden, setzt Musk seine Unterstützung auf andere Weise fort. Einige Kommentatoren sehen in Musks Handlung nicht nur eine private Unterstützung für einen ehemaligen Kollegen, sondern eine strategische „Wette“.

Aus Babuschkins Sicht ist sein Austritt nicht auf mangelnde Fähigkeiten oder fehlende Perspektiven bei xAI zurückzuführen, sondern auf seine klare Einsicht in das aufstrebende und wichtige Feld der KI-Sicherheit. Mit der Entwicklung der KI-Technologie ist das Problem der KI-Sicherheit dringlicher denn je geworden: Von der Datenschutz bis zur Algorithmus-Voreingenommenheit, von der missbräuchlichen Nutzung bis zu potenziellen ethischen Risiken, das Feld der KI-Sicherheit ist breit gefächert und komplex.

Als Modellgesellschaft ist es für xAI von entscheidender Bedeutung, das Vertrauen der Nutzer zu stärken. Musk weiß, dass mit der zunehmenden Datenmenge, die xAI verarbeitet, Datensicherheit und Datenschutz zu Schlüsselproblemen geworden sind. In öffentlichen Statements hat Musk mehrfach die potenziellen Risiken der KI betont, darunter seine Kritik an der Zusammenarbeit zwischen Apple und OpenAI.

Nachdem Apple OpenAIs ChatGPT in sein Betriebssystem integriert hatte, kritisierte Musk vehement, dass dies ein „unakzeptabler Sicherheitsverstoß“ sei und befürchtete, dass dies zur Offenlegung von Nutzerdaten führen könnte. In Bezug auf Meinungsfreiheit und Verantwortung ist Musk der Meinung, dass KI bei der Meinungsäußerung ein Gleichgewicht zwischen „übermäßigem Politischen Korrektheit“ und „unbeschränkter Freiheit“ finden muss und hat vorgeschlagen, eine „Fakt-Prüfung“ einzubauen.

Was die Sicherheit betrifft, plädiert Musk dafür, dass bei der Entwicklung von KI strenge ethische und logische Kontrollen eingehalten werden müssen, um sicherzustellen, dass sie maximale Wahrheitsfindung und Neugier aufweist und nicht gezwungen wird, zu lügen oder gegen die Grundsätze zu handeln.

All dies zeigt Musks Wertschätzung und Vertrauen in das Feld der KI-Sicherheit und deutet darauf hin, dass er in diesem Bereich aktiv werden will.

Neben Musks 200-Millionen-Dollar-Investition hat Babuschkin auch angekündigt, 50 Millionen US-Dollar als General Partner (GP) in die erste Runde zu investieren. Darüber hinaus planen der Texas Teacher Retirement System und das Musk Family Office jeweils 500 Millionen US-Dollar bzw. 200 Millionen US-Dollar zu investieren. Das Ziel des Fonds ist es, 1 Milliarde US-Dollar zu sammeln, und die Laufzeit beträgt „10 + 2“ Jahre.

Die KI-Sicherheit: Ein boomendes Investitionsfeld

Die Zusammenarbeit zwischen Musk und Babuschkin von xAI bis Babuschkin Ventures wird von vielen als eine Art „Romantik“ zwischen zwei Männern angesehen.

Während ihrer Zeit bei xAI haben Musk und Babuschkin eine tiefe Freundschaft und gegenseitiges Vertrauen aufgebaut. Musk hat einmal öffentlich erklärt: „Ohne dich (Babuschkin) wäre es keine xAI von heute.“ Dies zeigt die gegenseitige Wertschätzung zwischen den beiden Männern.

Für Babuschkin ist Musks Vertrauen nicht nur eine finanzielle Unterstützung, sondern auch eine geistige Anregung, was eine Art Zusammenarbeit und Weitergabe darstellt.

Im Bereich der KI-Sicherheit ist die Finanzierung von Start-ups sehr aktiv. Laut unvollständigen Statistiken haben sich bereits mehrere Unicorns in diesem Bereich etabliert.

Das bekannteste ist wohl Anthropic. Obwohl es ein Neuling in der KI-Branche ist, besteht das Gründerteam aus ehemaligen Mitarbeitern von OpenAI und einem italienischstämmigen US-amerikanischen Bruder-Schwester-Paar. Das Unternehmen hat seinen Sitz in San Francisco und konzentriert sich auf die Entwicklung sicherer KI-Technologien.

Derzeit plant Anthropic eine Finanzierung in Höhe von 2 Milliarden US-Dollar, die von Lightspeed Venture Partners geleitet wird. Nach Abschluss dieser Runde wird der Unternehmenswert von Anthropic auf 60 Milliarden US-Dollar steigen, was mehr als das Dreifache des Werts von vor einem Jahr ist. Damit würde Anthropic zu einem der fünf am höchsten bewerteten Start-ups in den USA gehören.

Außerdem hat die KI-Sicherheitsfirma ShieldAI im März dieses Jahres eine Serie F-Finanzierung in Höhe von 240 Millionen US-Dollar abgeschlossen. Die Runde wurde von L3Harris Technologies und Hanwha Aerospace gemeinsam geleitet, gefolgt von Andreessen Horowitz und dem US Innovation Technology Fund. Der Unternehmenswert stieg auf 5,3 Milliarden US-Dollar.

Die KI-Plattform Cyera, die sich auf Datensicherheit spezialisiert hat, absolvierte 2024 eine Serie C-Finanzierung in Höhe von 300 Millionen US-Dollar, was einem Unternehmenswert von 1,4 Milliarden US-Dollar entspricht. Chainguard, das Software-Supply-Chain-Sicherheitslösungen anbietet, absolvierte 2024 ebenfalls eine Serie C-Finanzierung in Höhe von 140 Millionen US-Dollar, was einem Unternehmenswert von 1,12 Milliarden US-Dollar entspricht. Die Cybersicherheitsfirma Huntress absolvierte 2024 eine Serie D-Finanzierung in Höhe von 180 Millionen US-Dollar, was einem Unternehmenswert von 1,55 Milliarden US-Dollar entspricht …

Diese Finanzierungen belegen die Wichtigkeit und den hohen Grad an Interesse an der KI-Sicherheit in der Branche. Als „Investor“ wird Babuschkin mit Musks Vertrauen in diesem Bereich forschen. Vielleicht wird im nächsten Jahr ein neues Unicorn im Bereich der KI-Sicherheit aus Babuschkin Ventures hervorgehen.

Dieser Artikel stammt aus dem WeChat-Account „Dongshisitiaojie Capital“ (ID: DsstCapital), geschrieben von Mei Chen und wurde mit Genehmigung von 36Kr veröffentlicht.