Haben die exorbitant teuren Arbeitsspeicher die großen Technologiekonzerne zu Schrottsammlern gemacht? Muss sogar Google alte Server auseinanderbauen, um die akute Notlage zu bewältigen?

In der letzten Zeit hat der anhaltende Anstieg der Speicherpreise alle Menschen in Atem gehalten. Nicht nur wir gewöhnlichen Verbraucher beschweren uns, dass wir uns die „drei Schulanfangsartikel“ nicht mehr leisten können, sondern auch die großen, finanzstarken Internetkonzerne sind von dem Preisanstieg der Speicher betroffen. Sogar Medien berichteten, dass der bekannte Großkonzern Google von den exorbitanten Speicherpreisen zu einem „Schrottsammler“ gezwungen wurde und begann, alte Server-Speicher zu demontieren, um den Notstand zu bewältigen. Wie sollen wir das eigentlich betrachten?

I. Die exorbitanten Speicherpreise zwingen selbst Großkonzerne zu „Schrottsammlern“

Laut Berichten von Kuai Technology ist das DRAM-Angebot anhaltend angespannt, was die KI-Giganten dazu gezwungen hat, alte Server zu demontieren, um Speicher zurückzugewinnen.

Nikhil Cherian, Senior Director of Supply Chain Infrastructure bei Google, gab kürzlich bekannt, dass sich die KI-Branche schnell von einer durch Rechenleistung begrenzten zu einer durch Speicher begrenzten Situation gewandelt hat. Der Hochleistungsspeicher macht derzeit etwa 75 % der Materialkosten eines einzelnen KI-Servers aus.

Laut Cherian arbeitet Google sowohl auf Software- als auch auf Hardwareebene, um den Speicherengpass zu überwinden. Auf Hardwareebene wurde sogar eine interne Recycling-Lieferkette aufgebaut, um nutzbare DDR4-Speichermodule aus ausgemusterten Servern zu demontieren und zurückzugewinnen.

Cherian räumte ein, dass Google speziell Hardware-Adapter entwickelt hat, damit DDR4-Speicher der vorherigen Generation an neue KI-Server angeschlossen werden kann. Außerdem werden ausgemusterte Server gezielt wieder importiert, um die darin verbauten DDR4-Module zu entnehmen.

Auf Softwareebene optimiert Google kontinuierlich die zugrundeliegenden Funktionsbibliotheken, Modellarchitekturen und die KV-Cache-Komprimierungstechnologie, um den Speicherverbrauch pro Einheit der Rechenleistung zu senken.

In diesem Jahr hat Google zwei TPU-ASICs auf den Markt gebracht: das TPU8t für das Training und das TPU8i für die Inferenz. Das TPU8i ist mit 288 GB HBM3e pro Chip ausgestattet, bietet eine Speicherbandbreite von 8,6 TB/s und integriert 384 MB On-Chip-SRAM zur Speicherung des aktiven KV-Caches, um die Abfrageanforderungen an den externen Systemspeicher zu reduzieren.

Der TPU8i-Server verwendet den von Google selbst entwickelten Axion-Prozessor auf Arm-Basis anstelle des herkömmlichen x86-Host-CPUs und verlässt sich auf die Hochgeschwindigkeits-DDR5-Speicherarchitektur, um Host-Aufgaben wie die Datenvorverarbeitung zu bearbeiten.

II. Warum muss selbst Google alte Server-Speicher demontieren, um sie zu nutzen?

Dass Google zu einem „Schrottsammler“ wird, klingt auf den ersten Blick ziemlich surreal. Sogar ein Technologiegigant wie Google mit einem Marktwert von Billionen Dollar beginnt, „Abfall zu sammeln“ und die Speichermodule aus ausgemusterten Servern zu demontieren. Die erste Reaktion vieler Menschen ist: Hat Google kein Geld mehr? Oder ist das nur ein Publicity-Gag?

Erstens hat sich der Wettbewerbsschwerpunkt der KI-Industrie von der Rechenleistung zum Speicher verlagert. Über einen sehr langen Zeitraum hinweg war die GPU das Einzige, worüber die Branche bei der Diskussion um die Engpässe der KI-Industrie sprach. Alle blickten nur auf Grafikchips und gingen davon aus, dass das Rechenleistungsproblem großer Modelle von selbst gelöst werden kann, wenn genügend Hochleistungs-GPUs verfügbar sind. Nachdem die Industrie aber praktisch gearbeitet hat, erkennen die Menschen allmählich: Selbst die stärkste GPU kann ihre Leistung nicht entfalten, wenn der Speicher nicht mithalten kann und eine große Anzahl von Modellgewichten sowie Kontextdaten nicht gespeichert werden können. Die großen Modelle werden immer größer, die Kontextfenster immer länger. Jede Inferenz und jede Trainingsrunde verbraucht riesige Mengen an Speicherplatz. Der Speicher ist nicht mehr ein nebensächliches Bauteil im Server, sondern direkt zu dem zentralen Engpass geworden, der die Expansion von KI-Geschäften einschränkt. Aus diesem Grund hat sich der Engpass im Sinne des „Fass-Effekts“ von den früheren Grafikchips auf die realeren Speicherchips verlagert.

Für ein Unternehmen von der Größe Googles ist der Speicher keine optionale Zusatzausstattung, sondern eine absolute Notwendigkeit, um riesige Modelle auszuführen und weltweit verteilte Rechencluster aufzubauen. Die Kosten für den Kauf neuer Server-Speicher sind so hoch, dass sie kaum akzeptabel sind. Der Speicher macht bereits einen extrem hohen Anteil der Materialkosten von KI-Servern aus. Die fortgesetzte groß angelegte Beschaffung neuer Speicher würde einen großen Teil der Gewinnspanne des Cloud-Computing-Geschäfts direkt aufzehren. Die DDR4-Speicher in ausgemusterten Servern sind an sich nicht vollständig funktionsunfähig – nur die gesamte Maschine der älteren Servergeneration hat ihre Betriebslebensdauer erreicht und muss außer Betrieb genommen werden. Jeder, der mit Computerhardware vertraut ist, weiß: Die Lebensdauer eines Speichermoduls ist normalerweise sehr lang, es sei denn, das Produkt wird vollständig ausgetauscht und ist nicht mehr nutzbar. Das Shenzhou-Notebook, das ich 2013 während meines Masterstudiums gekauft habe, verwendet zwar noch alten DDR3L-Speicher, funktioniert aber bis heute einwandfrei. Wenn der Bildschirm des Notebooks nicht stark gealtert wäre, hätte dieses Gerät immer noch eine ziemlich gute Leistung.

Für Google ist diese Nutzung noch einfacher: Es kann spezielle Hardware-Adapter entwickeln, um alte Speicher anzupassen und in neue KI-Server zu integrieren. Im Wesentlichen werden die Hardware-Vermögenswerte, die sich bereits im eigenen System angesammelt haben, wieder nutzbar gemacht. Viele Menschen fragen sich: DDR4 hat im Vergleich zum neuen DDR5 einen Leistungsrückstand, warum sollte man es trotzdem wiederverwenden? Aus der Sicht der realen Industrie bedeutet das: Nicht alle KI-Aufgaben erfordern eine maximale Speicherbandbreite. Einige Inferenzszenarien können durchaus ältere Spezifikationen von Speicher akzeptieren – was ausreicht, ist die optimale Lösung.

Zweitens ist das strukturelle Ungleichgewicht auf der Angebotsseite die eigentliche Ursache des Problems. Wo liegt das heutige Problem? Auf der Angebotsseite, vertreten durch die drei Großkonzerne Samsung, SK Hynix und Micron, sind unter dem Druck riesiger Gewinne und der Trends der Industrie die überwiegende Mehrheit der Kapazitäten für fortschrittliche Herstellungsverfahren und Ressourcen für die Verpackung auf HBM ausgerichtet. Aus geschäftlicher Sicht ist das völlig nachvollziehbar: Unter dem Hype der KI sind die Gewinnspanne und die Auftragssicherheit von HBM weitaus höher als bei anderen Produkten. Die Folgen dieser strategischen Entscheidung sind aber katastrophal: Die Kapazitäten, die ursprünglich für den allgemeinen Markt vorgesehen waren, wurden stark verdrängt, was zu einem schweren Angebotsmangel im Verbrauchermarkt führte.

Dieser Mangel ist kein einfaches Übernachfragephänomen, sondern ein struktureller Mangel. Die Großkonzerne haben sich aktiv dafür entschieden, die Versorgungssicherheit für den allgemeinen Markt aufzugeben, um nach hochprofitablen HBM-Aufträgen zu streben, wodurch das ökologische Gleichgewicht der gesamten Industriekette zerstört wurde. Für Nachfrager wie Google ist diese Fehlausrichtung äußerst schmerzhaft. Sie brauchen zwar erstklassiges HBM, um die Kernrechenleistung zu unterstützen, aber in ihrem riesigen Infrastruktursystem sind sie auch auf allgemeine Speicher angewiesen. Wenn der Markt in einer Situation ist, in der „die Kapazitäten für hochwertige Produkte überlastet sind und die mittel- und niedrigwertigen Produkte nicht mehr lieferbar sind“, kann selbst Google mit viel Geld kaum allgemeine Speicher mit angemessenem Preis-Leistungs-Verhältnis auf dem freien Markt kaufen – insbesondere die bekannten Speicher für Verbraucher und Server.

Schlimmer noch: Dieser strukturelle Mangel macht die Lieferkette extrem anfällig. Sobald die HBM-Kapazitäten die absolute Vorherrschaft einnehmen, kann jede noch so kleine Schwankung der Kapazitäten Kettenreaktionen auslösen. Der Mangel an allgemeinen Speichern wiederum schränkt die Erweiterungsfähigkeit des gesamten Systems ein. Aus diesem Grund ist die Demontage alter Server durch Google zu einem gewissen Grad eine Maßnahme, die durch diese strukturelle Fehlausrichtung der Kapazitäten erzwungen wurde.

Drittens wird Google zu diesem Zeitpunkt zum „Schrottsammler“, um die Kosten zu kontrollieren. Die Praxis von Google, Server-Speicher zu demontieren, wird zwar auch von vielen „Schrottsammlern“ unter den chinesischen Internetmitarbeitern angewendet, aber wir sollten nicht glauben, dass dies nur eine einfache Notlösung von Ingenieuren ist. Dahinter verbirgt sich eine Philosophie der extremen Kostenkontrolle. Einerseits baut Google sein eigenes internes Kreislaufwirtschaftssystem auf. Viele Server haben zwar das Ende ihrer Betriebslebensdauer erreicht, aber die physische Lebensdauer ihrer Kernkomponenten – insbesondere der Speicherchips – ist noch lange nicht abgelaufen. Der herkömmliche Entsorgungsprozess ist eine enorme Verschwendung von Ressourcen. Wenn diese Teile nun demontiert und wiederverwendet werden, lassen sich die Kosten innerhalb des eigenen Ökosystems abbauen. Das spart nicht nur Geld, sondern verbessert auch die Umschlagshäufigkeit und die Restwertausnutzung der Vermögenswerte.

Andererseits – und das wird leicht übersehen – verbessert dies kontinuierlich die Resilienz der eigenen Lieferkette. Die Kapazitäten externer Lieferanten können jederzeit durch höhere Gewalt oder Konflikte zwischen Großkonzernen unterbrochen werden. Google kann das Schicksal seiner großen Modelle nicht in die Hände anderer legen. Durch den Aufbau dieses internen Kreislaufmechanismus hat Google in seinen riesigen Rechenzentren einen „Wasserspeicher“ gebaut. Wenn draußen Wasser fehlt, habe ich keine Angst – in meinem eigenen Speicher gibt es noch Vorräte. Der Wert dieser Lieferkettenresilienz unter extremen Marktbedingungen ist weitaus größer als die eingesparten Kosten für die Hardwarebeschaffung. Einfach ausgedrückt: Das bedeutet, Raum gegen Zeit zu tauschen und mit vorhandenen Beständen das Wachstum abzusichern.

Viertens steigt das systemische Risiko des Speichermangels immer weiter. Selbst ein absoluter Spitzenkonzern wie Google, der finanzstark ist und eine starke Position in der Lieferkette hat, wird dazu gezwungen, so sparsam zu wirtschaften und sogar alte Teile zu demontieren, um den Betrieb aufrechtzuerhalten. Das sendet ein sehr gefährliches Signal für die Industrie. Es zeigt, dass das Problem auf dem aktuellen Speichermarkt bereits extrem bedenklich ist. Wir sagen oft: „Die Ente merkt zuerst, dass das Wasser im Frühling warm wird“ – die Reaktion der Großkonzerne in der Industriekette ist diese Ente. Wenn selbst Google sich um den Speicher sorgen muss, wie schlimm muss dann die Überlebenssituation für kleine und mittlere KI-Unternehmen sein?

Wenn die Speicherpreise weiterhin unbegrenzt steigen, wird das enorme negative Auswirkungen auf die Entwicklung der gesamten Industrie haben und könnte sogar zum letzten Strohhalm werden, der einige KI-Innovationsunternehmen zum Einsturz bringt. Die industrielle Modernisierung darf nicht zu einem Werkzeug werden, mit dem wenige vorgelagerte Lieferanten die gesamte Industriekette ausbeuten. Wenn die Kosten für die Infrastruktur so hoch sind, dass selbst die größten Anwender sie kaum akzeptieren können, ist die Blase nicht mehr weit vom Platzen entfernt.

Die heutige KI-Industrie ist wie der Bau einer Autobahn in die Zukunft. Aber das Asphalt, das für den Straßenbau unbedingt benötigt wird, wurde von einigen Lieferanten zu exorbitanten Preisen hochgetrieben, sodass selbst der größte Bauunternehmer nur noch alten Asphalt von alten Straßen abbauen kann, um die Lücken zu füllen. Wie weit kann diese Straße dann noch gebaut werden? Wenn die strukturellen Probleme auf dem Speichermarkt nicht bald ausgeglichen werden, könnte die groß angelegte Umsetzung und die kommerzielle Schließung der KI-Industrie direkt vor der Hürde der „exorbitanten Speicherpreise“ zum Stillstand kommen. Dieses Problem verdient die Aufmerksamkeit der gesamten Branche.

Wenn wir von dem Speicherpreisanstieg dazu gezwungen werden, dass die „drei Schulanfangsartikel“ immer teurer werden, der Preis eines einzelnen Handys den Preis von Haushaltsgeräten für eine ganze Familie erreicht und sogar Google gezwungen ist, als „Schrottsammler“ zu arbeiten – verdient dieses Problem des Speichermangels dann nicht unsere tiefgreifende Überlegung?

Dieser Artikel stammt aus dem WeChat-Offiziellen Konto „Jiang Han Vision Beobachtung“, Autor: Jiang Han Vision Beobachtung, veröffentlicht mit Genehmigung von 36Kr.