AMD löst das KI-Speicherproblem durch die Übernahme von MEXT, ohne auf eine übermäßige Aufrüstung von Hardware zu setzen

Diese Woche hat der US-amerikanische Chipriese AMD die Übernahme eines Start-ups namens MEXT angekündigt. Das Geschäft dieses Unternehmens ist sehr interessant. Sie versuchen, die "DRAM-Speicherbarriere", die der KI-Industrie im Weg steht, mit einer reinen Softwarelösung zu überwinden.

Seit 2026 wird DRAM zu einer strategisch knappen Ressource, und es gibt keine kurzfristige Lösung. Laut Daten von Institutionen wie TrendForce hat der HBM-Speicher bereits etwa ein Viertel der globalen DRAM-Waferkapazität in Anspruch genommen, und der Preis des DRAM für allgemeine Server ist in den letzten zwei Quartalen um etwa 3,5 Mal gestiegen. Allein die Speicherkosten machen mehr als die Hälfte der Hardwarekosten eines Servers aus.

Was noch schwieriger ist, ist, dass selbst wenn Unternehmen sich den DRAM teuer kaufen, die spezifische Betriebsart von großen KI-Modellen dazu führt, dass viele Speicherseiten tatsächlich in einem inaktiven Zustand sind, aber das traditionelle Speichermanagement-System sie nicht automatisch freigibt. Dies führt dazu, dass Unternehmen große Budgets für die Aufrüstung ausgeben, aber die tatsächliche Auslastung möglicherweise nicht viel steigt.

Anstatt teurere CXL-Speichersticks zu verwenden, hat MEXT einen reinen Softwareansatz entwickelt. Ihr Kernprodukt wird als prädiktives Speicher-Engine bezeichnet. Im Wesentlichen handelt es sich um ein auf Systemebene arbeitendes, KI-gesteuertes Speicher-Schichtverwaltungssystem, das das Problem des fehlenden DRAM auf äußerst flexible Weise lösen kann.

Im Allgemeinen scannt das System zunächst kontinuierlich das Speicherzugriffsverhalten der Workloads, erkennt die derzeit inaktiven Speicherseiten und entlädt diese Seiten dann auf NAND-Flash-Speicher. Anschließend kommt die KI-Engine von MEXT zum Einsatz. Diese Engine kann durch das Lernen des Verhaltensmusters der Workloads vorhersagen, welche der entladenen Seiten von der Anwendung benötigt werden. Bevor die eigentliche Anforderung erfolgt, holt die Engine die Seiten "aktiv" zurück in den DRAM.

Mit anderen Worten, genauso wie ein großes Sprachmodell lernen kann, das nächste Wort in einem Satz vorherzusagen, kann die KI-Engine von MEXT die nächste Seite im Speicher vorhersagen. Wenn die Vorhersagegenauigkeit hoch genug ist, können die Daten nahtlos zwischen DRAM und Flash "hin und her fliegen".

MEXT behauptet, dass diese Technologie sowohl für das Training als auch für die Inferenz nur auf einem einzelnen CPU-Kern laufen muss, in Mikrosekunden vorhersagen kann und sich kontinuierlich selbst optimieren kann und vollständig für die lokale Installation oder die Cloudumgebung geeignet ist.

Das Wichtigste ist, dass es keine Änderungen an der bestehenden Hardware erfordert und innerhalb von fünf Minuten installiert werden kann. Diese Eigenschaft ermöglicht es MEXT, zu behaupten, dass die Infrastrukturkosten um 50 % gesenkt und die verfügbare Speicherkapazität um das Zwei- bis Vierfache erhöht werden können. Derzeit haben bereits mehrere Unternehmen die Anwendung in realen Szenarien umgesetzt.

Zurück zu AMD: Welche Kernprobleme kann die Übernahme von MEXT lösen?

Zunächst ist das direkteste Ziel die Kostensenkung. AMD's Data Center-Geschäft dreht sich seit langem um die EPYC-Prozessoren und die Instinct-Beschleuniger. In der gesamten Lösung für Cloud-Dienstleister geht die hohe Leistung der Chips jedoch mit einem hohen Speicheraufwand einher. Wenn die prädiktive Speicher-Engine von MEXT in AMD's Data Center-Produktportfolio integriert werden kann, bedeutet dies, dass die Kunden bei der gleichen Konfiguration größere Modelle ausführen können. Dies ist für Cloud-Anbieter wie Amazon und Google von großer Attraktivität.

Zweitens füllt MEXT die fehlende Speicherplanungslogik in AMD's Full-Stack-Schließkreis auf. Dies erfordert eine Gruppe von Fachleuten, die sowohl über das Speichersystem-Architektur als auch über die Arbeitsweise der KI verfügen. Die Ankunft von MEXT füllt genau diese Lücke. Die technologische Expertise und die Innovationsfähigkeit dieses Teams werden AMD helfen, die verschiedenen Probleme der Speicherarchitektur in modernen Data Centers zu lösen und auch für die zukünftige technologische Weiterentwicklung das nötige Personal zur Verfügung stellen.

Betrachtet man die gesamte Branche, gibt die Übernahme von MEXT durch AMD ein klares Signal ab - angesichts der begrenzten DRAM-Kapazität ist das Modell, die Speicherkapazität einfach durch Hardware-Stacking zu erhöhen, an seine Grenzen gestoßen. Software-Optimierungstechniken wie die KI-basierte Speicherschichtung und die intelligente Planung werden zur Hauptrichtung der Branche, um die Stagnation zu überwinden.

Im Gegensatz zum Kapitalintensiven Modell der traditionellen Hardware-Aufrüstung zeichnen sich reine Softwarelösungen wie MEXT durch Leichtigkeit, hohe Anpassungsfähigkeit und niedrige Kosten aus und können schnell den Servermarkt abdecken. Dies ist auch der Hauptgrund, warum die Kapitalmärkte diese Übernahme hochschätzen. Daher ist der AMD-Aktienkurs nach der Bekanntgabe der Nachricht stark gestiegen.

Naturgemäß ist die Lösung von MEXT nicht allmächtig. In unprediktiven Szenarien kann der Nutzen möglicherweise geringer sein. Da AMD nun die Integration der MEXT-Technologie offiziell begonnen hat, wird die Funktion auch weiterhin optimiert.

Dieser Artikel stammt aus dem WeChat-Account "Meku.com". Verfasser: Meku.com. Veröffentlicht von 36Kr mit Genehmigung.