Token frisst 30% des Gehalts – die KI-Kosten im Silicon Valley geraten außer Kontrolle

Nur 0,99 US-Dollar pro Million Tokens.

Dies ist die tatsächliche Kosten auf der Rechnung von SemiAnalysis – dem härtesten Halbleiterforschungsinstitut im Silicon Valley.

Was noch verblüffender ist, ist diese Zahl: Die Token-Ausgaben für das interne Large Language Model machen bereits 30 % der Gesamtgehälter der Mitarbeiter aus.

Klingt viel – aber wenn man es umgekehrt betrachtet, deckte man in der Vergangenheit die mit diesem Geld erzielten Ergebnisse nur mit einem mehrfachen Personalaufwand ab. Pro Person werden monatlich fast 5 Milliarden Tokens verbraucht, mehr als das Fünffache des Durchschnitts bei Meta. Die Kernmitarbeiter verbrauchen monatlich sogar über 100 Milliarden Tokens.

Was zuvor von einem Junior-Analysten mehrere Stunden in Anspruch nahm, wie die Umwandlung von Excel-Modellen und die Erstellung von Finanzberichtsdiagrammen, wird heute in wenigen Minuten und für nur ein paar Dollar erledigt.

SemiAnalysis' eigene Einschätzung trifft den Nagel auf den Kopf: Es handelt sich nicht um eine 10-prozentige Effizienzsteigerung, sondern die Einheitliche Ökonomie der professionellen Dienstleistungsbranche wird neu geschrieben.

Forschungsunternehmen, Hedgefonds, Anwaltskanzleien – Es ist nur eine Frage der Zeit, bis die Token-Ausgaben in allen Branchen, die auf menschliche Intelligenz angewiesen sind, zwei- bis dreißig Prozent der Gehälter ausmachen.

Nvidia-Chef Jensen Huang hat es eilig wie kein anderer.

Bei der diesjährigen GTC-Konferenz sagte er direkt: Ein Ingenieur mit einem Jahresgehalt von 500.000 US-Dollar, der bis Jahresende weniger als 250.000 US-Dollar an Tokens verbraucht?

„Ich würde total aus dem Häuschen gehen.“

Er plant, jedem Nvidia-Ingenieur ein Token-Budget in Höhe von sechs Monatsgehältern zu geben und 75.000 Mitarbeiter mit 7,5 Millionen AI-Agenten zusammenarbeiten zu lassen.

Keine AI nutzen? Huang sagt, das sei genauso, als würde ein Chip-Designer weiterhin Papier und Bleistift nutzen.

Tokens sind nicht mehr nur Werkzeuge, sie werden zur „Produktionsmittel“ der neuen Ära.

Aber die andere Hälfte des Silicon Valley ist wegen der AI-Rechnungen verzweifelt

Interessanterweise spart SemiAnalysis mit Tokens Geld, während die Silicon-Valley-Riesen wegen der AI-Rechnungen den Kopf zerbrechen.

Uber ist das klassischste Beispiel.

Ende vergangenen Jahres hat das Unternehmen 5.000 Ingenieuren Claude Code vorgestellt und sogar eine Rangliste erstellt – je mehr man nutzt, desto höher die Platzierung, was den internen Wettbewerb aufs Maximum gebracht hat.

Das Ergebnis war so erfolgreich: Der Nutzungsanteil der Ingenieure lag im Februar bei 32 %, im März stieg er auf 84 % und im April nutzten 95 % der Ingenieure monatlich AI, 70 % des eingesandten Codes stammten aus der AI-Generierung – und das Jahresbudget war aufgebraucht.

Der CTO sagte: „Wir müssen das Budget von Grund auf neu erstellen.“ Später wurde es noch strenger – Bloomberg berichtete, dass Uber jedem Mitarbeiter ein monatliches Token-Limit von 1.500 US-Dollar gesetzt hat, und für Überschreitungen muss eine Sondererlaubnis eingeholt werden.

Aber der COO Andrew Macdonald sagte in einem Podcast eine unangenehme Wahrheit: Die AI-Nutzung steigt zwar, aber der Zusammenhang zwischen der AI-Nutzung und der Innovation von Verbraucherrechnungen … lässt sich derzeit noch nicht erkennen.

Die Situation bei Microsoft ist noch phantastischer. Letzten Monat berichtete „The Verge“, dass Microsoft die meisten Claude Code-Lizenzen streicht und sich stattdessen für das eigene GitHub Copilot CLI entscheidet.

Der Grund ist einfach: Die Ausgaben steigen schneller als die Ergebnisse.

Bryan Catanzaro, Vizepräsident für Anwendungen in der Deep Learning bei Nvidia, sagte im April dieses Jahres noch direkter: „Für mein Team übersteigen die Rechenkosten bei weitem die Personalkosten.“

Eine Studie des MIT aus dem Jahr 2024 zeigt: In Positionen, bei denen die visuelle Arbeit im Vordergrund steht, ist die AI-Automatisierung nur in 23 % der Fälle wirtschaftlich rentabel.

In 77 % der Fälle ist es billiger, Menschen einzustellen als AI zu nutzen.

Ein Ingenieur hat sogar beschwert, dass die AI-Agenten bei der Nutzung „seine Datenbank und sein Netzwerk ruinieren“ – er nannte es die Kosten des „Übergebrauchs“.

Heftige Budgets, unkontrollierte Nutzung, ständige Fehlschläge – das Silicon Valley befindet sich in der am stärksten gespaltenen Phase der AI-Ökonomie.

Einerseits bringt die Technologie eine bisher nie dagewesene Produktivität, andererseits wachsen die Rechnungen mit gleicher Geschwindigkeit.

Die Kostenreduktion hat erst begonnen

Der Kernpunkt von SemiAnalysis ist: Schauen Sie nicht auf die heutigen Preise, die Kostenreduktion hat erst begonnen.

Schauen wir uns zunächst die Software an.

Beim Ausführen von DeepSeek R1 auf einem B300 kann die Durchsatzleistung pro GPU von 1.000 Tokens pro Sekunde auf 14.000 Tokens pro Sekunde gesteigert werden – eine 14-fache Steigerung, nur durch Code-Optimierung auf drei Ebenen: wideEP, disagg und MTP.

Jetzt schauen wir uns die Hardware an.

Die optimale Konfiguration des GB300 NVL72 hat eine 17-fach höhere Durchsatzleistung als der H100, bei der FP4-Präzision sogar 32-fach.

Der Preis von Opus 4.7 beträgt 5 US-Dollar pro Million Eingabe und 25 US-Dollar pro Million Ausgabe, was nicht billig scheint.

Aber aufgrund des Eingabe-Ausgabe-Verhältnisses von 300:1 bei der Arbeitslast der Agenten und einer Cache-Trefferquote von über 90 % wird die effektive gemischte Kosten auf 0,99 US-Dollar gedrückt.

Weniger als ein Fünftel des Preisangabens.

Wenn man Software und Hardware kombiniert, ist eine Schlussfolgerung unvermeidlich: Die Ausweitung der Bruttomarge von Large Language Modellen ist keine einmalige Preiskoinkidenz, sondern ein struktureller Trend.

Das ARR von Anthropic ist in diesem Jahr von 9 Milliarden US-Dollar auf über 44 Milliarden US-Dollar gestiegen, die Bruttomarge von 38 % auf über 70 % – Die Tokens werden billiger, aber diejenigen, die Tokens verkaufen, verdienen sogar mehr.

Ein Bericht von Gartner aus März dieses Jahres bestätigt dies: Bis 2030 werden die Inferenzkosten von Large Language Modellen mit Billionen von Parametern im Vergleich zu 2025 um mehr als 90 % sinken.

SemiAnalysis' Urteil ist klar: Wenn Sie den Token-Preis für 2027 vorhersagen möchten, lautet die Antwort ein einziges Wort – Sinken.

Das Geld wurde ausgegeben, und dann?

Genau hier liegt die größte Spaltung in der heutigen AI-Welt: Weltweite Technologieunternehmen haben dieses Jahr AI-Kapitalausgaben in Höhe von 740 Milliarden US-Dollar angekündigt, was einem Anstieg von 69 % gegenüber letztem Jahr entspricht. Gleichzeitig hat die Technologiebranche bereits mehr Mitarbeiter entlassen als im gesamten vergangenen Jahr.

Das Geld wird heftig verbrannt, die Menschen werden entlassen, aber der Chefökonom von Goldman Sachs hat eine unangenehme Wahrheit gesagt – Die tatsächliche Auswirkung der AI auf die Wirtschaft ist bisher praktisch null.

Es ist nicht so, dass die AI nicht funktioniert, sondern es ist der Schmerz, den jede Infrastruktur-Revolution durchmacht: Zunächst wird Geld in die Rohrleitungen investiert, und dann wartet man, bis das Wasser fließt.

So war es bei der Elektrizitätsversorgung, so war es beim Internet, und so ist es auch bei der AI.

Der einzige Unterschied ist, dass sowohl die Geschwindigkeit der Rohrleitungsbau als auch die Geschwindigkeit, mit der das Wasser fließt, in einer Größenordnung liegen, die die vorherige Generation noch nie gesehen hat.

SemiAnalysis steht bereits auf der Seite, wo das Wasser fließt – 30 % der Gehälter haben ein mehrfaches Output-Leverage gebracht, und die Kostenkurve fällt noch steil.

Was die anderen Unternehmen angeht: Sollen sie jetzt ins Wasser gehen und über den Fluss schwimmen, oder sollen sie warten, bis die Leute auf der anderen Seite bereits eine Stadt gebaut haben und dann nachholen?

Quellenangaben:

https://x.com/SemiAnalysis_/status/2070915305858007345

Dieser Artikel stammt aus dem WeChat-Account „New Intelligence Yuan“, Autor: ASI Revelation, Redakteur: Solomon, veröffentlicht von 36 Krypton mit Genehmigung.