Google entwickelt neue Chips, bei denen die Gemini-Architektur direkt in den Siliziumwafer eingebrannt ist, was eine Effizienzsteigerung um das bis zu Zehnfache ermöglicht.

Google entwickelt einen neuen Server-Chip, der speziell für sein Gemini-KI-Modell zugeschnitten ist, bei dem die Modellarchitektur direkt in Silizium eingebrannt wird, um die Effizienz der KI-Inferenz erheblich zu steigern.

Wie das Technikmedium The Information am Montag berichtete, könnte die Effizienz dieses intern als „Frozen v2“ bezeichneten Chips das 6- bis 10-fache der derzeitigen selbst entwickelten Chips erreichen und die Bereitstellung soll voraussichtlich bereits 2028 beginnen.

Zwei direkt informierte Quellen teilten dem Medium mit, dass der unmittelbare Treiber dieses Projekts der akute Mangel an KI-Rechenleistung bei Google ist – ein Mangel, der interne Konflikte ausgelöst und Google Cloud dazu gezwungen hat, Kooperationsanfragen einiger externer Kunden abzulehnen. Frozen v2 codiert einen Teil der Entscheidungslogik des Gemini-Modells vorab in den Chip, wodurch die Rechenschritte und der Datenverkehr während der Ausführung reduziert werden, um die Antwortgeschwindigkeit zu erhöhen und den Energieverbrauch pro Einheit an Rechenleistung zu senken.

Ein Google-Sprecher erklärte in einer Erklärung, dass das Team des Unternehmens „kontinuierlich neue Innovationen erforscht und entwickelt, um Nutzern und Kunden höchste Leistung und Effizienz zu bieten“, und fügte hinzu: „Nicht jedes Projekt gelangt in die Massenproduktion, aber diese strenge Erkundung ist der Kern unseres Full-Stack-Ansatzes.“

Beflügelt durch die oben genannten Nachrichten stieg der Aktienkurs von Google am Montag im Tagesverlauf zeitweise um 3,7 % und schloss letztendlich mit einem Plus von 1,52 %.

01

Spezialisierter Inferenz-Chip: Architekturwette mit Priorität auf Effizienz

Das zentrale Designkonzept von Frozen v2 besteht darin, die zugrundeliegende Architektur des Gemini-Modells dauerhaft in das Siliziumsubstrat des Chips einzubrennen, sodass bei der Verarbeitung von Inferenzanfragen nicht wie bei universellen Chips eine große Anzahl von Echtzeitentscheidungen getroffen werden muss.

Dem Bericht zufolge soll die Effizienz dieses Chips, gemessen an der Anzahl der pro Energieeinheit verarbeitbaren Tokens, voraussichtlich das 6- bis 10-fache der neuesten Generation der aktuellen selbst entwickelten KI-Chips von Google erreichen.

Diese Logik steht in krassem Gegensatz zu universellen KI-Chips. Die vorhandenen Tensor-Prozessoren (TPU) von Google sind ähnlich wie die GPUs von Nvidia dafür ausgelegt, eine Vielzahl von KI-Modellen zu unterstützen, sodass bei der Ausführung bestimmter Modelle eine große Anzahl dynamischer Entscheidungsprozesse verarbeitet werden muss. Frozen v2 erreicht durch die vorab fest eingebaute Verankerung eines Teils der Entscheidungen eine höhere Ausführungseffizienz, allerdings auf Kosten der Universalität.

Google prüft derzeit, wie viele Informationen in den Chip eingebrannt werden sollen, um ein Gleichgewicht zwischen Flexibilität und Effizienz herzustellen. Informierte Personen weisen darauf hin, dass der Frozen v2-Chip nur mit nachfolgenden Versionen von Gemini kompatibel ist, die auf derselben zugrundeliegenden Architektur basieren wie bei der Entwicklung – das bedeutet, dass Google praktisch darauf setzt, die aktuelle Gemini-Modellarchitektur langfristig beizubehalten. Google gibt an, dass der Chip Aktualisierungen der Modellgewichte unterstützt – also die Parametereinstellungen, die bestimmen, wie das Modell auf Fragen reagiert.

02

Projektverlauf: Von „vollständiger Einbrennung“ zu „flexibler Einbrennung“

Das Frozen-Projekt ist keine neue Idee.

Dem Bericht zufolge geht es auf das ursprüngliche „Original Frozen“-Konzept zurück, das ursprünglich von Jeff Dean, dem leitenden Wissenschaftler von Google DeepMind, geleitet wurde und vorsah, die Modellgewichte selbst direkt in den Chip zu brennen. Da dieses Design jedoch dazu geführt hätte, dass der Chip nur eine bestimmte Version des Gemini-Modells bedienen konnte und seine Lebensdauer zu kurz war, wurde dieses Konzept eingestellt.

Frozen v2 passt sich daraufhin an und verfolgt den Ansatz der „flexiblen Einbrennung“ – die Modellarchitektur statt der spezifischen Gewichte wird verankert, um die Effizienzvorteile zu bewahren und gleichzeitig die Nutzungsdauer des Chips zu verlängern.

Als Branchenvergleich hat das kanadische Chip-Startup Taalas ein ähnliches Designkonzept verfolgt, bei dem bestimmte KI-Modelle fest in den Chip kodiert werden. Bislang hat es mehr als 200 Millionen US-Dollar von Investoren wie Quiet Capital und Fidelity eingesammelt. Im Vergleich dazu entwickeln Unternehmen wie SambaNova, d-Matrix, OpenAI und Microsoft ebenfalls Inferenz-Chips, verfolgen jedoch andere technische Wege als Google. Nvidia hat im vergangenen Dezember 20 Milliarden US-Dollar investiert, um eine Technologielizenzvereinbarung mit dem Inferenz-Chip-Startup Groq abzuschließen und seine Position auf dem Inferenzmarkt zu stärken.

03

Positionierung: Ein neuer Zweig außerhalb der TPU, kein Ersatz

Google positioniert Frozen v2 explizit als neuen Zweig außerhalb der TPU-Produktlinie und nicht als Ersatz für sein bestehendes System selbst entwickelter Chips. TPUs gehören ebenso wie Nvidias GPUs zu den universellen KI-Chips und sind mit einer Vielzahl von Modellen kompatibel; Frozen v2 ist speziell für Gemini konzipiert, und beide Produktlinien werden parallel weiterentwickelt.

Google hat derzeit keine Pläne, die Produktionsskala von Frozen v2 auf das Niveau der TPU auszuweiten.

Informierte Personen geben an, dass der relativ begrenzte Bereitstellungsumfang es Google ermöglicht, externe Partner für Design und Fertigung erst in einer späten Phase des Projekts einzubeziehen, statt wie bei großen Produktveröffentlichungen im Vorfeld eine umfassende Koordination durchzuführen. Darüber hinaus betrachtet Google diese Generation von Produkten teilweise als technisches Experiment – um Ingenieuren Erfahrungen bei der Entwicklung stärker spezialisierter Chips zu sammeln, vor allem vor dem Hintergrund, dass sich die Architektur von KI-Modellen allmählich stabilisiert.

Die aktuelle Strategie von Google zur selbst entwickelten Chips zeigt bereits erste Erfolge.

In diesem Jahr hat Google die achte Generation der TPUs vorgestellt und begonnen, diese direkt an Cloud-Kunden zu verkaufen, um die dominante Position von Nvidia herauszufordern. Google hat mit Meta einen TPU-Mietvertrag im Wert von mehreren Milliarden US-Dollar unterzeichnet und bemüht sich aktiv um weitere Kunden von Cloud-Dienstanbietern. Informierte Personen sagen, dass die selbst entwickelte Chip-Technologie es Google ermöglicht, das Gemini-Modell zu geringeren Kosten auszuführen – sollte Frozen v2 erfolgreich sein, könnte dieser Kostenvorteil weiter ausgebaut werden.

Dieser Artikel stammt aus dem WeChat-Offiziellen Konto „Wall Street News Max“, Autor: Bu Shuqing, und wird mit Genehmigung von 36Kr veröffentlicht.