StartseiteArtikel

Google überrascht Nvidia: Komplette TPU-Schränke werden zum Verkauf angeboten und die Auslieferung wird beschleunigt, wobei die Inferenzleistung pro Dollar um 50 % über der des GB200 liegt.

量子位2026-11-16 08:21
Flanken-Basisraub

Nvidias jüngste Kopfschmerzen sind nicht nur die Angelegenheit von Jensen Huang.

In dieser Woche hat Google zwei neue TPU-Chips vorgestellt, die auf vertrauliche Inferenz und langen Kontext abzielen. Zusammen mit den zwei TPU-Chips, die im ersten Halbjahr veröffentlicht wurden, hat die achte Generation der TPU nun vier Konfigurationen.

In diesem Jahr hat Google zum ersten Mal in einem einzigen Jahr vier TPU-Systeme auf den Markt gebracht. Und die Ambitionen von Google bei TPU sind möglicherweise größer als die Außenwelt denkt —

Noch in diesem Jahr hat Google zum ersten Mal damit begonnen, TPU-Systeme an externe Parteien zu verkaufen.

Qbit hat aus internen Quellen bei Google erfahren, dass das Unternehmen voller Zuversicht ist und angibt, dass „der Marktanteil von TPU im nächsten Jahr schnell steigen wird“ und dass „mehr große Unternehmen TPU in großem Umfang einsetzen werden“.

Auch in Bezug auf die Leistung sind sie sehr zuversichtlich.

Zumindest nach Ansicht von hochrangigen Google-Mitarbeitern „stehen die Tage, an denen Nvidia die Welt allein beherrscht, kurz vor dem Ende“.

(Lisa Su: Was sagst du?.jpg)

△ Bild wurde von KI generiert

„Wie Nvidia“: Verkauf von TPU-Systemen an externe Kunden

In diesem Jahr hat Google eine Entscheidung getroffen, die gegen seine bisherige Tradition verstößt —

Erstmaliger Verkauf vollständiger TPU-Systeme an externe Kunden.

Qbit hat aus Quellen in der Nähe von Google erfahren, dass ein Führungskraft, der seit weniger als drei Jahren bei Google tätig ist, diese Entscheidung vorangetrieben hat.

Inmitten großer interner Debatten setzte er sich dafür ein, die Geschäftsstrategie von TPU zu ändern, und überzeugte schließlich das Management, TPU-Systeme „wie Nvidia“ an externe Kunden zu verkaufen.

△ Bild wurde von KI generiert

Ursprünglich (2013) war TPU nur ein von Google selbst entwickelter spezialisierter Beschleunigerchip, um die Rechenkosten für seine eigenen KI-Geschäfte zu senken. Erst 2018 begann Google, die Rechenleistung von TPU zur Miete auf Google Cloud anzubieten.

Das Mietmodell in der Cloud bedeutet, dass die gesamte mit TPU verbundene Hardware-Infrastruktur von Google verwaltet und betrieben wird.

Aber als es zur Gewinnkonferenz für das erste Quartal dieses Jahres kam, erklärte CEO Sundar Pichai, dass Google eine „starke Nachfrage“ nach TPU aus KI-Labors, Kapitalmarktunternehmen und Bereichen für Hochleistungsrechnungen beobachtet hat, und kündigte an, ausgewählten Kunden die Bereitstellung von TPU in ihren eigenen Rechenzentren zu ermöglichen.

Intern wird dieser externe Verkauf als eine strukturelle Umstellung im Sinne von „Förderung der Forschung durch Verkauf“ betrachtet: Mit externen Bestellungen sollen die enormen Kapitalausgaben für Rechenzentren verteilt werden, und die skalierte Nachfrage soll die Kostenkurve für selbst entwickelte Hardware verbessern.

Ab dem zweiten Quartal liefert Google vollständige TPU-Systeme an Kunden aus.

Das System umfasst eine vollständige Palette von Funktionen wie Rechen-, Speicher- und Netzwerkhardware sowie Software und bietet zudem Dienste im Zusammenhang mit Training und Inferenz an.

△ Bild wurde von KI generiert

Dieses Geschäftsmodell zeigt bereits Potenzial für Einnahmen.

Seit Beginn dieses Jahres beschleunigt sich das Wachstum von Google Cloud stetig. Im ersten Quartal lag der Anstieg gegenüber dem Vorjahr bei 63 %, im zweiten Quartal bei 82 %, und im dritten Quartal erreichte der Umsatz 30,7 Milliarden US-Dollar, was einem Anstieg von 103 % gegenüber dem Vorjahr entspricht; der Betriebsgewinn stieg ebenfalls von 3,594 Milliarden US-Dollar auf 11,121 Milliarden US-Dollar.

(Flüstern: Google Cloud ist wahrscheinlich der einzige Teil des Gewinnberichts für das dritte Quartal, der einen nicht enttäuscht)

Die Google-Muttergesellschaft Alphabet hat ausdrücklich erklärt, dass der Verkauf von TPU-Systemen einer der wichtigsten Faktoren für das Wachstum von Google Cloud im dritten Quartal ist.

In dem neuesten 10-Q-Dokument hat die Google-Muttergesellschaft Alphabet den „Produktverkauf, hauptsächlich von TPU-Systemen“ ausdrücklich in die Einnahmen von Google Cloud aufgenommen. Das Management erwartet, dass der Verkauf von TPU-Systemen im vierten Quartal weiter zunehmen wird.

Obwohl der Großteil der Vertragseinnahmen aus dem Verkauf von TPU-Systemen erst 2027 in die Gewinnrechnungen einfließt und derzeit noch nicht in den Finanzberichten erfasst ist, ist dieser Trend kaum umkehrbar.

Warum hat man das erst in diesem Jahr getan?

Tatsächlich ist der externe Verkauf von TPU-Systemen durch Google eine unvermeidliche Wahl, die sich aus natürlicher Entwicklung und externen Bedingungen ergibt.

Obwohl Sundar Pichai auf der Gewinnkonferenz für das zweite Quartal erklärte, dass der interne Bedarf von Google an Rechenleistung für fortschrittliche AGI eine unüberwindbare Grenze darstellt, sind hochwertige GPUs in den letzten zwei Jahren ständig knapp, sodass Kunden, die keine Nvidia-Chips erwerben können, nach Alternativen suchen müssen.

Google möchte dieses Zeitfenster nutzen.

Die siebte Generation der TPU Ironwood, die 2025 veröffentlicht wurde, wurde bereits speziell für die Inferenz entwickelt. Bei der achten Generation in diesem Jahr hat Google Training, Echtzeit-Inferenz, vertrauliches Rechnen und extrem langen Kontext weiter in unterschiedliche Systemkonfigurationen aufgeteilt.

Amin Vahdat, Leiter des Chipgeschäfts bei Google, deutete öffentlich an, dass „die Zukunft der Spezialisierung gehört“. Seine Absicht ist es, mit dem Weg spezialisierter Chips die Grundlage von Nvidias Narrativ zu erschüttern, dass „ein universeller Chip alle Aufgaben meistert“.

△ Bild wurde von KI generiert

Zweitens hat Google mit aller Kraft die TPU-Softwareökosysteme nachgerüstet.

Einer der größten Vorteile von Nvidia in den letzten Jahren ist das CUDA-Ökosystem. Nvidia hat die Werkzeugkästen für KI-Entwickler schon früh vollständig ausgestattet, und eine große Anzahl von Software wurde für CUDA angepasst und optimiert.

Als eines der gängigsten KI-Frameworks bietet PyTorch die ausgereifteste Unterstützung für CUDA.

Der gängige Weg in der Branche besteht darin, Modelle mit PyTorch zu erstellen und über CUDA auf Nvidias GPUs zuzugreifen, was eine kaum ersetzbare Ökosystembarriere aufbaut.

Für eine lange Zeit war Googles TPU jedoch eng an TensorFlow und JAX gebunden, der Software- und Hardware-Stack unterschied sich stark von dem von GPUs, und die Schwelle für die Migration war sehr hoch.

Mitte 2025 begann Google schließlich gemeinsam mit dem PyTorch-Team von Meta, TorchTPU zu entwickeln, mit dem Ziel, dass PyTorch-Modelle auf TPU mit nur wenigen Codeänderungen ausgeführt werden können.

Ende letzten Monats wurde das Kooperationsergebnis TorchTPU offiziell als Open-Source veröffentlicht.

Welche Wirkung das haben wird, brauche ich hier wohl nicht weiter auszuführen.

△ Bild wurde von KI generiert

In Bezug auf Leistung und Kosten veröffentlichte SemiAnalysis am 5. November eine neue Gruppe von Testergebnissen zur Agent-Inferenz.

Die Ergebnisse zeigen, dass bei Modellen wie Muse Spark die siebte Generation der TPU Ironwood in einigen Tests bereits einen höheren Token-Ausstoß pro US-Dollar erzielen kann als Nvidias GPUs.

Bisher hat Nvidia nur in wenigen Szenarien gegen AMD verloren; der durch TPU verursachte Preisleistungsschock ist eine Situation, die es nie erlebt hat und nicht akzeptieren will.

SemiAnalysis berichtet, dass nachdem Google die AgentX-Testergebnisse eingereicht hat, die belegen, dass TPUv7 die GB300 NVL72 FP4 in der Leistung pro US-Dollar übertreffen kann, Nvidia schnell ein Team von Ingenieuren zusammengestellt hat, um zu kontern.

Nvidias Ingenieure und Agenten arbeiten rund um die Uhr, ohne Wochenenden, mit hoher Belastung Überstunden.

Sogar bis 2 Uhr morgens Ortszeit.

Nach vier Optimierungsrunden hat der Token-Ausstoß von GB300 pro US-Dollar bei dem Test eines bestimmten Modells die TPU schließlich um das 1,5- bis 2,6-fache übertroffen.

Vorher verfolgt AMD die Entwicklung innerhalb des GPU-Lagers.

Daneben versucht Google, die Position von GPUs als Standard-Rechenoption auf Architekturebene zu erschüttern.

Nvidia kann in dieser Situation kaum vermeiden, sich selbst zu überbieten!

Die Sorgen von Jensen Huang sind noch nicht erledigt, und unerwartet stellt der KI-Chip-Markt Nvidia vor eine weitere schwierige Entscheidung.

Es ist wirklich eine unruhige Zeit für Nvidia, eine unruhige Zeit …

Referenzmaterialien:

[1]https://newsletter.semianalysis.com/p/tpu-strikes-the-king?utm_source=chatgpt.com

Dieser Artikel stammt aus dem WeChat-Offiziellen Konto „Qbit“, Autor: Heng Yu, veröffentlicht mit Genehmigung von 36Kr.