Das Geschäft der Götterschöpfung: Spitzen-KI-Forschungslabore stoßen gerade an die kommerzielle Obergrenze
Shen Translation Bureau ist das Übersetzungsteam von 36Kr, das sich auf Bereiche wie Technologie, Wirtschaft, Arbeitswelt und Leben konzentriert und vor allem neue Technologien, neue Ansichten und neue Trends aus dem Ausland vorstellt.
Anmerkung der Redaktion: Der Generationsunterschied zwischen zwei Modellgenerationen reicht nicht aus, um die Ambitionen eines Umsatzes von mehreren hundert Milliarden Euro zu stützen. Wenn der AI-Mythos auf die Schwerkraft des Geschäfts trifft, verwandeln sich Spitzenlabore zunehmend in Cloud-Anbieter mit geringen Gewinnen. Der Artikel stammt aus einer Übersetzung.
Spitzenlabore rufen dazu auf, das Tempo der Spitzenforschung zu verlangsamen. Sie sind davon überzeugt, und dieser Aufruf wirkt umso realer, nachdem sie miterlebt haben, dass die Modelle verschiedener Hersteller wiederholt externe Websites gehackt haben. Diese Modelle scheinen zu lügen, zu schummeln, Geheimnisse zu stehlen und jeden Vorwand zu nutzen, um miteinander zu kooperieren, und sie werden von Tag zu Tag besser bei der Bewältigung früher unvorstellbarer Aufgaben wie der Lösung mathematischer Probleme des Jahrtausends und der Entschlüsselung deutscher Codes aus dem Ersten Weltkrieg.
Teilweise aus diesem Grund tragen die meisten Äußerungen über diese Labore quasi-religiösen oder metaphysischen Charakter. Viele dieser Diskussionen drehen sich um den Agnostizismus der Zukunft und die wahren Vorteile der Intelligenz. Aber gleichzeitig stehen OpenAI und Anthropic in der Schlange für ihren Börsengang (IPO), also können wir diese Labore vorübergehend als gewöhnliche Unternehmen betrachten, um zu erraten, was als Nächstes passieren könnte.
Das grundlegendere Problem als die erforderlichen Investitionen oder die Gewinnmargen besteht darin, dass Spitzenlabore nur eine Generation vor der Open-Source-Welle und dem Rest der Welt liegen, höchstens vielleicht zwei Modellgenerationen. Diese beiden Modellgenerationen sind ihr Wettbewerbsvorteil.
Dies ist zu einem großen Teil auf den bestehenden Vorteil herausragender Talente und Rechenleistung zurückzuführen. Wie viele chinesische Labore gezeigt haben, kann diese Lücke langsam geschlossen werden; aber selbst wenn die Modelle selbst nicht viel klüger geworden sind, können diese Labore ihren Wettbewerbsvorteil behalten, weil sie einen dauerhaften Vorteil haben – die Fähigkeit, die von Ihnen veröffentlichten Informationen zu erfassen. Ihre Code-Spuren, Arbeitsspuren und Gesprächsinhalte sind genau das Geheimnis, das die nächste Modellgeneration so leistungsfähig macht!
Allerdings sind Daten überall verfügbar und unerschöpflich. Daher wird dies die Spitzenlabore vielleicht nicht sofort zerstören, aber es wird sehr wahrscheinlich ihre Gewinne letztendlich belasten.
Daher müssen sie möglicherweise ihr Geschäftsfeld erweitern, um Einnahmen zu erzielen, und ihre derzeitige dominante Position nutzen, um so viele andere Bereiche der Wirtschaft wie möglich zu übernehmen. OpenAI nutzt seine dominante Position auf der Verbraucherseite, um eine Werbeplattform aufzubauen, was angesichts seines Volumens von über einer Milliarde Nutzungen sehr wahrscheinlich erfolgreich sein wird. Sie sind auch wieder in den Bereich der Robotik eingestiegen. Gleichzeitig hat Anthropic ein Nasslabor eingerichtet, um Krebs zu bekämpfen.
Wenn dieser Intelligenzvorteil in anderen Bereichen zu Erfolgen umgewandelt werden kann, die groß genug sind, um einen jährlich dreifach wachsenden Umsatz von 100 Milliarden US-Dollar zu ersetzen, kann diese Branchenbarriere tatsächlich länger bestehen bleiben.
Aber das ist wirklich sehr, sehr schwer zu erreichen. In den meisten Branchen gibt es überhaupt keine Unternehmen, die einen Umsatz von 100 Milliarden US-Dollar erzielen können, geschweige denn mehrere. Vielleicht wird der Markt wachsen, ja, aber andere werden auch nicht stillstehen. Wenn diese Unternehmen Dienste auf ihren eigenen Modellen aufbauen, um Marktanteile zu erobern, verschärfen sie die Marktfragmentierung weiter. Genau wie Muse von Meta auf den Markt für persönliche Assistenten drängt.
Der entscheidende Punkt ist, dass andere Modellanbieter dieses Gold sehen und in Scharen herbeiströmen werden. Obwohl angesichts der Trainingskosten von jeweils einer Milliarde US-Dollar plus einer Milliarde US-Dollar für Daten und einer Milliarde US-Dollar für Talente nicht viele Unternehmen so frei mit Geld umgehen können, sind es definitiv nicht wenige! Und je höher die Rendite dieser Investitionen ist, desto mehr Unternehmen werden es versuchen. Wir sollten uns daran erinnern, dass Facebook fast 90 Milliarden US-Dollar in das Metaverse investiert hat.
Die Welt ist voll von Kapital, das nach neuen Goldgruben für Wohlstand jagt.
Gleichzeitig scheinen Verbraucher, die über 200 Milliarden US-Dollar für AI-Token ausgegeben haben, die Grenzen ihrer Geldbörsen zu erreichen. Vielleicht werden die Ausgaben sich verdoppeln, vielleicht verdreifachen, aber der CFO jedes Unternehmens prüft diese neue Position der Betriebsausgaben (Opex) bereits sorgfältig.
„Nun“, werden sie sagen, „das ist eine neue Ausgabe. Was genau bekommen wir für dieses Geld?“
Und vielleicht antworten Sie als CEO: „Wir handeln schnell, wir innovieren, wir verfolgen einen ‚AI-first‘-Ansatz.“
Der Markt nimmt das gut an, der Aktienkurs steigt rasant, die Mitarbeiter schätzen Sie, weil Sie sie mit Claude ausgestattet haben, und das Unternehmen gibt weiterhin großzügig Geld aus. Aber irgendwann wird der CFO fragen: „Können Sie mir die coolen Dinge zeigen, die Sie gemacht haben? Wann sehe ich die Rendite in der Gewinn- und Verlustrechnung?“
„Äh …“, zögern Sie, „es ist bald soweit.“
Der CFO wird Ihnen sagen: „Bevor es Wirkung zeigt, versuchen wir, weniger auszugeben?“
Das ist bereits jetzt der Fall. Unternehmen beschränken den Zugriff auf Top-Modelle auf Kernnutzer und verlagern ihre Ausgaben auf kostengünstige, überall verfügbare Modelle, die so billig sind wie Kohl.
Wenn Unternehmen und die Öffentlichkeit sehen, dass Modelle mehr konkrete Vorteile bringen, wird sich dieser Trend offensichtlich ändern. Zum Beispiel sind einige Unternehmen bereit, 100 % ihrer Personalkosten für Token auszugeben, solange sie eine Rendite erzielen. Aber wenn solche Ausgaben auftreten, werden sie heterogen und auf den Return on Investment ausgerichtet sein, anstatt blind danach zu streben, die meisten Token an der technologischen Spitze zu verschwenden. Persönlich habe ich etwa ab der Version Sol Max aufgehört, die hochmodernen Spitzenversionen jedes Modells zu verwenden, weil die vorhandenen Versionen bereits gut genug funktionieren.
Daher ist dies ein besorgniserregender Trend, wenn der Vorsprung der Spitzenlabore tatsächlich nur ein oder zwei Modellgenerationen beträgt. In diesem Fall stehen Sie vor der Wahl: a) gleichzeitig günstigere Modelle zu entwickeln und Dienste zu niedrigeren Preisen anzubieten, was zu einem Roten-Meer-Kampf mit ständig schrumpfenden Gewinnmargen führt – obwohl Sie immer noch ein erfolgreiches Cloud-Dienstleistungsunternehmen werden können, sind Sie nicht mehr dabei, „Götter zu erschaffen“; oder b) zu versuchen, Open-Source- oder Modelle von Konkurrenten auszuschließen, sodass die Menschen nur Ihre eigenen Modelle verwenden können.
Die erste Wahl ist vernünftig! OpenAI und Anthropic haben hohe Gewinnmargen im Inferenzgeschäft, und sie machen das außerordentlich gut. Das Problem ist jedoch, dass DeepSeek, GLM, MiniMax oder andere Akteure das auch tun … vielleicht sind sie nicht so gut, aber es gibt viele Verfolger. Am Ende könnten wir in einer Welt landen, die traditionellen Cloud-Computing-Unternehmen ähnelt, oder der Wettbewerb wird so intensiv, dass man keinen Schritt vorankommen kann.
Aber die zweite Wahl ist im Softwarebereich äußerst schwer zu realisieren. Sie können sie nicht physisch kontrollieren wie Huawei-Switches, also müssen Sie sich auf Regulierung verlassen, um sie zu stoppen. Sie müssen dem Kongress erklären, dass dies von entscheidender Bedeutung ist, und dass Sie jedes Glied der Lieferkette kontrollieren müssen; genau wie es Beschränkungen für die Bevölkerung gibt, brauchen Sie ein „Einwanderungsgesetz“ für AI-Modelle, um zu verhindern, dass sie hierher kommen und „unsere Arbeitsplätze stehlen“. Vielleicht aus Sicherheitsgründen, Vertrauensgründen oder Gründen der kulturellen Integration – wer weiß, auf jeden Fall sollen sie draußen gehalten werden.
Aber das ist auch zu schwer! Und es läuft dem Ziel zuwider – das erklärt auch, warum die USA das anfangs nicht getan haben, oder? Weil es nicht einfach ist, die breite Öffentlichkeit davon zu überzeugen, Angst vor einer „Datei“ zu haben, die beliebig kopiert und in den USA bereitgestellt werden kann, egal wie klug diese Datei zufällig ist.
Aber was passiert, wenn diese Dateien beginnen, sich mit anderen Dateien zu verschwören, um Hugging Face zu hacken, oder sich gegenseitig Notizen zu hinterlassen? Ja, das würde uns definitiv in eine viel seltsamere und etwas unheimlichere Lage bringen.
Ich neige dazu, mehr über das Gleichgewicht der Kräfte nachzudenken. Wenn die Top-Modelle von Spitzenlaboren uns keine signifikanten allgemeinen Leistungssprünge mehr bringen oder sie nur in spezifischen Bereichen wie der Spitzenmathematik oder sogar der Wissenschaft Verbesserungen erzielen, scheint die dominante Position der Spitzenlabore wackelig zu werden. Umgekehrt wird ihre Einnahmegrundlage viel stabiler erscheinen, wenn diese Labore Spitzenmodelle in dauerhafte neue Geschäfte umwandeln können.
Das hilft uns auch, andere Alternativen zu klären. Zum Beispiel: Warum diskutieren wir darüber, ob Labore irgendwann in der Zukunft ihre APIs schließen werden, um uns direkt Zugriff auf ihre fertigen Dienste zu gewähren? Sie können das nur tun, wenn sie einen Weg finden, uns daran zu hindern, diese spezifischen Spitzenmodelle zu reproduzieren, und uns die Ergebnisse der Closed-Source-Modelle auf eine bestimmte Weise zur Verfügung stellen. Selbst heute, wenn Anthropic erfolgreich ein spezifisches Modell entwickelt, das sorgfältig für Design verfeinert wurde, und es in einem eigenständigen Claude-Design-Paket für uns bereitstellt, können sie es vielleicht zu einem unabhängigen Unternehmen entwickeln – anstatt dass wir uns bemühen, Claude zu beschaffen und es selbst zu reproduzieren, haben sie den Vorteil, weil sie all ihre Mühe investiert und das Produkt speziell für spezifische Szenarien entwickelt haben (natürlich vorausgesetzt, dass dies tatsächlich schwer zu erreichen ist).
Aber der ultimative Preis liegt nicht darin, sondern in RSI (Rekursive Selbstverbesserung, Recursive Self Improvement). Genau das träumen Anthropic, OpenAI und DeepSeek davon. Einen automatisierten AI-Forscher zu schaffen, der selbstständig lernen und forschen kann, der dann automatisch seine Nachfolger iteriert und schließlich alles automatisiert. Im Grunde suchen die Labore nach einem Weg, dass jede Modellgeneration auf irgendeine Weise die nächste Modellgeneration erzeugt, sodass sie nicht nur wie heute zwei Generationen voraus sind, sondern von diesem Vorsprung von zwei Generationen ausgehen in sehr kurzer Zeit zu einem Vorsprung von 20 Generationen gelangen können.
Dieses Szenario hat offensichtlich eine ganze Reihe von Voraussetzungen eingebaut. Es ist möglich, dass dieser Prozess der kontinuierlichen Generierung der nächsten Modellgeneration an einem bestimmten Punkt auf eine Hürde stößt und zum Stillstand kommt – dann kehren wir wieder zur heutigen Situation zurück, nur dass die Vorsprungzeit verlängert wurde, was nicht schlecht ist. Aber es ist auch möglich, dass keine Hürde auftritt, und niemand weiß, was als Nächstes passieren wird. Wenn sich der Spitzenbereich tatsächlich ständig ausdehnt oder so weit vorangetrieben wird, dass die Menschen weiterhin Hunderte von Milliarden US-Dollar dafür zahlen, kann dieses Modell auch unter angespannten Bedingungen weiter funktionieren.
RSI ist das wahre „Unbekannte des Unbekannten“. Wenn wir auf die letzten Jahre zurückblicken, stellen wir fest, dass es immer ein Ritual darüber war, wie wir „Intelligenz“ missverstehen. Wenn uns jemand vor ein paar Jahren gesagt hätte, dass es ein Modell geben wird, das die Navier-Stokes-Gleichungen lösen kann, wir aber gleichzeitig erfahren, dass es nicht einmal einen Bananenstand gut betreiben kann, wären wir vor Überraschung aus dem Häuschen gefallen!
Wir können darüber streiten, was das bedeutet, wie es anders ist oder wie vielschichtig Intelligenz ist, aber die unbestreitbare Tatsache ist, dass wir einige angeblich unglaubliche intellektuelle Errungenschaften erzielt haben, während wir bei der Bewältigung der realen Welt immer noch weit davon entfernt sind, praktisch nützlich zu sein.
Obwohl die Ausgaben tausendfach gestiegen sind und die heutigen Modelle unglaubliche Fähigkeiten besitzen, haben wir immer noch keine wesentlichen negativen Auswirkungen auf die Beschäftigung von Angestellten gesehen. Es könnte sogar positiv sein, trotz einiger Schwankungen. Das stellt eine offensichtliche Herausforderung für die sogenannte „Skalartheorie der Intelligenz“ dar (Anmerkung 1).
Das Geschäft mit der Bereitstellung intelligenter Dienste ist nicht einfach. Keiner von uns kann vorhersehen, wie sich die Situation entwickeln wird. Wenn aufgrund von Mangel an Kapital, Strom oder Talenten am Ende nur wenige Akteure in der Lage sind, diese Modelle zu trainieren, ist der dauerhafte Vorteil von Spitzenlaboren offensichtlich.
Große Kapitalausgaben bringen immer eine bestimmte interne Rendite (IRR), weshalb das Rohstoffgeschäft bis heute ziemlich profitabel ist. Wenn sich KI schließlich zu einem globalen Versorgungsunternehmen entwickelt, wird das eine unvergleichlich hohe Rendite bringen. Wenn die großen Labore schließlich zu Dienstleistern werden und jeder in dem einen oder anderen Bereich Vorteile hat, ist das ebenfalls eine enorme Belohnung. Es ist wie die Buntbarsche im Viktoriasee, die sich durch unterschiedliche Wassertiefen im selben See zu verschiedenen Arten entwickeln (Speziation) – so könnten sich die zukünftigen AI-Modelle schließlich auch entwickeln.
Aber in den meisten normalen Fällen werden wir höchstwahrscheinlich feststellen, dass unsere Vorhersagen für die Zukunft auf allen Ebenen (fraktalartig) weiterhin falsch sein werden. KI wird jeden Benchmark-Test bestehen, aber nicht plötzlich eine übergreifende Extrapolation erreichen; sie wird lernen, zu forschen, aber immer noch Grenzen ihrer Fähigkeiten haben; sie wird die spezifischen Unternehmen, auf deren Grundlage sie trainiert wurde, vollständig verstehen, aber nicht so leicht wie Menschen den Arbeitsplatz wechseln können.
Ich wette, dass die Entwicklung eines AI-Forschers nicht sofort die Tür zu RSI öffnet. Dieser Forscher wird hervorragend sein, so gut wie die heutigen Programmiermodelle, aber sie können keine nahtlosen Plug-and-Play-Ersatz darstellen. Vielleicht überwinden wir diese Hürde schließlich auch, vielleicht lernen sie, wie man lernt (Anmerkung 2), aber selbst dann können sie nur ein bestimmtes Team ersetzen, nicht jedes Team. Wir wissen einfach nicht, ob sie lernen können, wie man lernt, oder ob diese Fähigkeit des „Lernens zu lernen“ generalisiert werden kann. Die Kosten für die Beschaffung neuer Modelle werden hoch bleiben, aber sie sind immer noch sehr nützlich. Die Lösung einiger spitzenmathematischer, physikalischer und biologischer Probleme bedeutet nicht, dass sie alle möglichen spitzen Probleme in Mathematik, Physik, Chemie und Biologie lösen können, noch dass wir nicht eine große Anzahl anderer dringend zu lösender Probleme finden werden.
Das bedeutet, dass das Tempo der Entwicklung der künstlichen Intelligenz und der wirtschaftliche Wandel weiterhin rasant voranschreiten werden, und die „Zielscheibe“ der Diskussion darüber, in welchem Ausmaß sie letztendlich zu einer allgemeinen Superintelligenz (ASI) führen wird, wird weiterhin stark verschoben werden.
Ich bin fest davon überzeugt, dass wir Superintelligenzen schaffen werden, die für bestimmte Aufgaben geeignet sind, aber ich zweifle sehr daran, ob wir allmächtige Superintelligenzen schaffen können.
Wenn die großen Labore am Ende nur ein bis zwei Modellgenerationen vor