Nach der Rückkehr der CPU: Welche Grundlagen der KI-Industrie haben sich verändert?
Die Veränderungen in der Techniewelt sind oft unvorhersehbar.
Im Jahr 2006 schrieb NVIDIA den Satz „CPU ist der Host, GPU ist das Gerät“ in das erste Kapitel des CUDA-Programmierhandbuchs.
Zu diesem Zeitpunkt schenkten viele Menschen dem keine Beachtung.
Schließlich ist es eine unumstößliche physische Tatsache, dass die CPU auf das Mainboard gelötet und die GPU in den Steckplatz gesteckt ist.
In den folgenden zwei Jahrzehnten entwickelte sich die GPU rasant und übernahm die Spitzenposition bei der Rechenleistung. Auch NVIDIA wandelte sich von einem Nebendarsteller zum absoluten Herrscher der KI-Infrastruktur.
Doch der Höhepunkt der Geschichte läutet oft auch den Wendepunkt ein.
Gerade als der NVIDIA H100-Chip zu einem Preis von 40.000 US-Dollar gehandelt wurde und trotzdem kaum verfügbar war, traten die Engpässe der KI-Rechenleistung immer deutlicher zutage.
Betrachtet man den Satz „CPU ist der Host, GPU ist das Gerät“ erneut, lässt er sich auch anders interpretieren:
Die CPU übernimmt die Hauptrolle, die GPU die Nebenrolle.
2023 stellte NVIDIA die Grace-CPU vor – ein Zeichen dafür, dass seine langfristige Strategie des „All-in-GPU“ zu einer „heterogenen Zusammenarbeit von CPU und GPU“ überging.
Im darauffolgenden Jahr 2024 wies auch AMD-CEO Lisa Su in einem Medieninterview darauf hin: „In den letzten drei bis vier Jahren wuchs der globale CPU-Markt relativ stabil mit einer jährlichen Wachstumsrate von nur 3 % bis 4 %. Angetrieben durch die KI-Welle wird die durchschnittliche jährliche Wachstumsrate des globalen CPU-Marktes in den nächsten fünf Jahren auf über 35 % ansteigen.“
Dass die CPU wieder an Bedeutung gewinnt, ist keine erfüllte Prophezeiung – sondern das Ergebnis akribischer Berechnungen der großen Unternehmen anhand realer Rechnungen.
Diese Rechnung nennt sich „Grenzertragsminderung“: Mit zunehmender Größe des GPU-Clusters nimmt der Zuwachs an Rechenleistung pro zusätzlicher GPU langsam ab.
Das Wettrüsten um Rechenleistung, bei dem man mit roher Kraft Wunder erzielen wollte, ist nicht mehr die unumstößliche Wahrheit der Branche.
Der Glaube bröckelt – und die neue Geschichte beginnt.
Das Paradoxon des Geldverbrennens für das Überleben
In der Chipindustrie gibt es das Moore'sche Gesetz, das die Entwicklung leitet. Auch im KI-Bereich gibt es ein eigenes Gesetz, das in der Fachwelt als „Scaling Law“ bezeichnet wird.
Grob gesagt: Wenn man die Rechenleistung eines großen Modells verzehnfacht, steigt seine Leistung möglicherweise nur um das 2- bis 3-fache.
Die Beziehung zwischen Rechenleistung und Kosten steigt nicht synchron an, sondern folgt einer logarithmischen Ertragsminderung.
Während die Öffentlichkeit also ständig von sprunghaft steigender Leistung großer Modelle erfährt, sehen die großen Unternehmen, dass jeder Leistungssprung mehr und teurere Ressourcen erfordert als zuvor.
Je größer das Modell, desto schwieriger wird es, die Rechenleistung zu steigern. Selbst die KI kann dem „Fluch des Starken“ nicht entkommen.
Daher stiegen die jährlichen Kapitalausgaben (CapEx) von Microsoft, Google, Meta und Amazon – um das „Ungeheuer der großen Modelle“ zu füttern – von einem Niveau von Hunderten Milliarden US-Dollar im Jahr 2021 auf etwa 230 Milliarden US-Dollar im Jahr 2024, was rund 1,7 Billionen Yuan entspricht.
Diese riesige Summe fließt hauptsächlich in den Bau von Rechenzentren, den Kauf von GPUs und knappe Stromkontingente.
Aus früheren Offenlegungen von Microsoft geht hervor, dass das Unternehmen bereits 2022 ein Rechenzentrum mit Zehntausenden A100-GPUs für OpenAI bereitstellte, das ausschließlich für das Training großer Modelle bestimmt war.
Und Meta-Gründer Mark Elliot Zuckerberg wies 2024 auf Instagram öffentlich darauf hin: „Bis Ende 2024 werden wir etwa 350.000 NVIDIA H100 besitzen. Zählt man andere GPUs (wie von AMD) hinzu, entspricht die Rechenleistung etwa 600.000 H100.“
Allein die Anschaffungskosten für 350.000 NVIDIA H100 übersteigen Hundert Milliarden US-Dollar.
Noch kritischer ist die Energieversorgung.
Denn in den USA reicht nicht nur der Strom nicht aus – auch das Stromnetz ist überlastet.
In Nordvirginia, dem weltweit größten Cluster von Rechenzentren, müssen Unternehmen, die ein neues Rechenzentrum bauen wollen, 3 bis 5 Jahre auf den Stromanschluss warten.
Der größte lokale Energieversorger „Dominion Energy“ wies in einem an die Aufsichtsbehörden gerichteten Dokument darauf hin: „Wir erleben den größten Anstieg des Strombedarfs seit dem Zweiten Weltkrieg.“
Aus Strommangel entscheiden sich viele Unternehmen, selbst Lösungen zu finden.
Meta errichtete neben seinem Rechenzentrum am Standort in New Albany, Ohio, ein eigenes Gaskraftwerk, das ausschließlich für den Eigenbedarf bestimmt ist.
Das anhaltende Verbrennen von Geld und Strom hat die KI-Technologie tatsächlich vorangebracht.
Das im November 2022 veröffentlichte ChatGPT überschritt innerhalb von 5 Tagen eine Million Registrierungen und erreichte nach 2 Monaten mehr als 100 Millionen monatliche aktive Nutzer.
Bis Ende 2023 diskutierten alle globalen Technologieunternehmen über KI-Agenten und erklärten sie zur Zukunft der KI-Industrie.
Das schien zu beweisen: Wenn man genug Rechenleistung stapelt, ergibt sich der wirtschaftliche Wert von selbst.
Leider ist die Nachfrage nach großen Modellen zwar groß, und viele Länder haben die KI-Industrie auf die Ebene der „nationalen Strategie“ gehoben.
Aber die großen Unternehmen werden noch von „drei großen Bergen“ behindert: der Zuverlässigkeitsfalle, der Kostengrube und unklaren Verantwortlichkeiten.
Die technische Route muss ebenfalls umschwenken
Das Faszinierendste an der Technologiebranche ist, dass die Obergrenze so hoch liegt, dass man sie nicht sehen kann. Sobald ein Geschäftsmodell funktioniert, lassen sich überdurchschnittliche Gewinne erzielen.
Aber ihre Grausamkeit liegt auch darin: Wenn „Geld verbrennen für die Zukunft“ zur einzigen gängigen Geschäftserzählung wird, sind alle gezwungen, an einem Marathon ohne Ende teilzunehmen.
Laut öffentlichen Berechnungen werden die kumulierten KI-Kapitalausgaben von Microsoft, Google, Meta und Amazon bis 2026 600 Milliarden US-Dollar übersteigen.
Ein Bericht der Industrial Securities zeigt zudem, dass bis Ende 2025 fast 80 % der Unternehmen, die KI einsetzen, noch keine Steigerung ihres Nettogewinns erzielt haben.
Auf der einen Seite betreiben die Giganten ein kostenneutrales Wettrüsten – auf der anderen Seite steht die kalte Realität, dass die meisten Akteure nur Geld verbrennen, aber keine Erträge erzielen.
Angesichts der ernsten Risiken und Herausforderungen der KI-Industrie zeigen die großen Unternehmen eine fast verrückte Einheitlichkeit.
Google-CEO Sundar Pichai drückte in der Telefonkonferenz zum Quartalsergebnis im Juli 2024 die Dringlichkeit von KI-Investitionen aus: „Das Risiko unzureichender Investitionen ist weit größer als das Risiko übermäßiger Investitionen.“
Amazon-CEO Andy Jassy äußerte sich ähnlich in der Ergebnisbesprechung des dritten Quartals desselben Jahres: „Das ist eine gigantische Chance, die man vielleicht einmal im Leben bekommt. Langfristig werden Kunden, Geschäftspartner und Aktionäre froh sein, dass wir nicht zurückgewichen sind, sondern voll vorangegangen sind.“
Die Unternehmen haben ihre Haltung klargestellt: Selbst wenn sie Geld verbrennen, werden sie ihre Ziele unbedingt erreichen.
Aber die Öffentlichkeit und die Investoren brauchen keine Pfadabhängigkeit des „Geldverbrennens für Technologie“.
Sie brauchen eine sichtbare „Skala“ – einen „Fortschrittsbalken“ der technischen Entwicklung.
Eine direkt anwendbare Skala ist die Rechnung.
Sie zeigt klar, wie viel man tatsächlich ausgeben muss, wenn KI von einem „Experiment“ zum alltäglichen Gebrauch wird.
Aus diesem Grund achten aktuelle Nutzer von KI-Agenten sehr auf die Kosten pro Token.
Nehmen wir Yiwu, den weltweit größten Umschlagplatz für Kleinstwaren: Zehntausende Händler nutzen KI-Agenten täglich – für Textgenerierung, mehrsprachige Übersetzungen, Vertonungen und Videogenerierungen, alles wird automatisiert.
Früher hätte das eine Geschichte über Kostensenkung und Effizienzsteigerung sein sollen.
Aber heute ist die Lage viel komplexer.
Hochentwickelte Agenten mit selbstständigen Schleifen sind zu einem Fass ohne Boden für Tokens geworden.
In einer Zeit, in der alle führenden Hersteller ihre KI-Agenten vorstellen, sind die Token-Kosten offen und transparent.
Beispielsweise kostet die Ausgabe von einer Million Tokens bei dem Flaggschiff-Agenten Claude Sonnet 4.x, entwickelt von Anthropic, etwa 15 US-Dollar. Solange die Agenten-Schleifen keine großen Fehler machen, gibt ein kleines Unternehmen im Monat nicht viel aus.
Dario Amodei, Mitbegründer und CEO von Anthropic
Aber das Problem liegt darin, dass der Rechenprozess hinter den Tokens eine „schwarze Kiste“ ist: CPU und GPU arbeiten zusammen, um das Ergebnis der vorherigen Berechnung in die nächste Schleife einzufügen. Je mehr man rechnet, desto mehr Fehler können auftreten.
Ein Händler testete Tools wie OpenClaw – und seine monatliche KI-Rechnung stieg von einigen Hundert Yuan auf 5.000 Yuan.
Obwohl der Agent kaum Aufgaben erledigt hatte, waren die Kosten um ein Vielfaches gestiegen.
Der Agent „verbrennt Tokens“, aber der Nutzer sieht nicht, an welchem Schritt das passiert.
Anthropic, der Entwickler hinter dem Claude-Modell, gab bei der Analyse von Multi-Agent-Systemen Zahlen an: Bei einem einzelnen Agenten verbraucht eine typische Aufgabe viermal so viele Tokens wie ein normales Gespräch. In Szenarien mit mehreren zusammenarbeitenden Agenten steigt dieser Wert auf das 15-fache.
Auslands händler in Yiwu nutzen KI sehr intensiv
Die Kosteneffizienz von Tokens bestimmt in gewissem Maße die Zukunft der Agenten.
Da man Fehler nicht vollständig verhindern kann, versucht man, die Kosten für Nutzer zu senken – was in der Fachwelt als „Token-Komprimierung“ bezeichnet wird.
Was ist „Token-Komprimierung“?
Einfach ausgedrückt: Man kürzt die Eingabeaufforderungen des Nutzers, um den Rechenaufwand zu senken.
Das Ziel ist, dass der Agent – egal wie ungeordnet die Anforderungen des Händlers sind – die wichtigsten Informationen herausfiltert und ein Ergebnis liefert, das den Nutzer möglichst zufriedenstellt.
Mit einer klugen Token-Komprimierung lassen sich Kosten einsparen, selbst wenn man die durch Schleifenfehler verursachten Kostensteigerungen nicht vollständig vermeiden kann.
Eine verbesserte Nutzererfahrung wirkt sich direkt auf Bewertungen und Rankings der Anwendungen aus – und vermittelt Investoren sogar den Eindruck, dass das Projekt „investitionswürdig“ ist.
Aber bei der Technologie sind die Demonstrationen vor der Kamera oft unkompliziert – hinter den Kulissen kostet jeder einzelne Schritt die Hersteller viel Mühe.
Wenn Unternehmen ihre Technologie nur auf „Sicherheit“ ausrichten, fehlt ihnen möglicherweise ein Stück Überzeugungskraft.