Das Geheimnis um die Rechenleistung des Zhipu-Modells „Niu Lai“: Es läuft vollständig auf in China hergestellten Chips, und sein Preis beträgt nur ein Vierzigstel des Preises von Opus 4.8.

Nach sechs Tagen der Anonymität hat „Niu Lai“ endlich die letzte Hülle gelüftet.

Am Abend des 26. August veröffentlichte Zhipu offiziell GLM-5.3-Flash und stellte es als quelloffenes Modell zur Verfügung. Dieses Modell, das zuvor unter dem Namen Ox-Alpha anonym auf OpenRouter und OpenCode getestet wurde, verfügt über insgesamt 320B Parameter und 18B aktivierte Parameter und ist das erste native multimodale Modell der GLM-5-Serie.

Im Vergleich zu GLM-5.3 ist der Preis dieses Modells unerwartet niedrig: Er beträgt nur 1/10 des Preises von GLM-5.3 und sinkt während der zeitlich begrenzten Rabattphase weiter auf 1/20; im Vergleich zum Flaggschiffmodell Claude Opus 4.8 von Anthropic liegt er bei etwa 1/40.

Artificial Analysis gibt derzeit für Claude Opus 4.8 einen Intelligence-Index-Wert von 57 Punkten an, der offizielle Standardpreis der API beträgt 5 US-Dollar pro Million Eingabe-Token und 25 US-Dollar pro Million Ausgabe-Token. Zhipu gab bekannt, dass GLM-5.3-Flash im selben Index ebenfalls 57 Punkte erreicht hat; im selbst entwickelten Z.ai Code Bench von Zhipu liegen die praktischen Nutzungserfahrungen beider Modelle bei der Codierung auf einem vergleichbaren Niveau.

Obwohl dies nicht bedeutet, dass GLM-5.3-Flash bei allen Aufgaben „gleichwertig“ zu Opus 4.8 ist und bei einzelnen Benchmarks, der Stabilität bei langen Aufgaben und echten Agent-Aufgaben noch Unterschiede bestehen können, zeigt zumindest der umfassende Dritttest, dass ein quelloffenes Modell nun in den Fähigkeitsbereich vorgedrungen ist, der bisher hauptsächlich von teuren geschlossenen Flaggschiffmodellen besetzt wurde.

Noch wichtiger ist, dass diese niedrigen Preise nicht auf einem Inferenz-Cluster mit ausländischen GPUs basieren.

01

Hinter „Niu Lai“ läuft alles auf inländischen Chips

Die Veröffentlichung von GLM-5.3-Flash beantwortet auch die größte bisherige Frage im Zusammenhang mit Ox-Alpha: Woher stammt die Rechenleistung für einen so groß angelegten kostenlosen Test im Ausland?

Zhipu bestätigte, dass GLM-5.3-Flash vor der offiziellen Veröffentlichung unter dem Namen Ox-Alpha anonym auf OpenCode und OpenRouter getestet wurde. Das Modell wurde schnell zum beliebtesten Modell der Woche und stellte neue Rekorde für die Aufrufvolumina auf beiden Plattformen auf.

Alle diese Anfrageverkehrsdaten werden durch Rechenleistung von inländischen Chips bereitgestellt.

Wie bekannt ist, hat Zhipu für den Dienst dieses Modells einen Cluster mit mehr als 100.000 inländischen Chips eingesetzt, ohne jedoch die genauen Chipmodelle bekannt zu geben. Dies ist auch das erste Mal, dass Zhipu versucht, einen groß angelegten Cluster mit inländischen Chips zu nutzen, um direkt die echten Online-Lasten von Entwicklern aus der ganzen Welt zu tragen.

Während des anonymen Tests wussten die Nutzer nicht, wer hinter dem Modell steht und welche Chips verwendet werden, sie entschieden nur anhand von Geschwindigkeit, Stabilität und Effekt, ob sie das Modell weiter aufrufen. Die inländische Rechenleistung hat damit einen anhaltenden Test mit echtem Verkehr durchlaufen, keine Spitzenleistungsdarstellung in einer Laborumgebung.

Laut offiziellen Angaben hat Zhipu eine Vielzahl gezielter Anpassungen am Inferenzsystem vorgenommen, um fortschrittliche Modelle wirklich auf inländischen Chips ausführen zu können.

Die wichtigsten Engpässe einzelner inländischer Chips betreffen derzeit die Speicherkapazität und die Bandbreite, während GLM-5.3-Flash nativ einen Kontext von bis zu 1M unterstützt, was höhere Anforderungen an den Videospeicher und die Kommunikation stellt.

Zhipu hat eine spezielle Inferenz-Engine auf Basis von SGLang aufgebaut und Technologien wie die tensorparallele Verarbeitung innerhalb von Knoten, ReplaySSM, W8A8-Quantisierung, gemischte Cache-Quantisierung mit INT8/FP8/BF16 sowie Layer Split integriert, um die Hardwareeinschränkungen durch das Prinzip „Rechenleistung gegen Bandbreite, Kommunikation gegen Videospeicher“ zu verringern.

Auf Clusterebene wird die getrennte Architektur von Encode-Prefill-Decode (EPD) verwendet. Die multimodale Kodierung, das Prompt-Prefilling und die Token-für-Token-Dekodierung werden in drei Arbeitspools unterteilt, die unabhängig voneinander geplant und skaliert werden können, sodass verschiedene Phasen entsprechend ihren jeweiligen Merkmalen der Rechenleistung ausgeführt werden.

Laut den von Zhipu veröffentlichten Daten verbessert diese Lösung die End-to-End-Dienstleistungseffizienz um das 3-fache im Vergleich zur anfänglichen Baseline auf derselben Hardware. Zhipu gibt an, dass die endgültige Hardwareeffizienz und die Kosten pro Token bereits das Niveau von gängigen NVIDIA-GPUs erreicht haben.

Hier müssen zwei Begriffe unterschieden werden.

Das sogenannte „1/40“ bedeutet nicht, dass die Hardware-Inferenzkosten von inländischen Chips nur 1/40 der Kosten von ausländischen GPUs betragen. Derzeit reichen die öffentlichen Daten nicht aus, um einen solchen Vergleich zu stützen.

Die genauere Bedeutung ist: Ein fortschrittlicher Modelldienst, der vollständig von einem Cluster aus inländischen Chips getragen wird, hat den Preis für Nutzer auf etwa 1/40 des Preises von Claude Opus 4.8 gedrückt.

02

320B: Warum ist es leistungsstärker als das Flaggschiff der vorherigen Generation?

Die andere Hälfte des Preisrückgangs ergibt sich aus der Modellarchitektur.

GLM-5.3-Flash hat insgesamt 320B Parameter, wobei 18B Parameter pro Token aktiviert sind. Zum Vergleich: GLM-4.5 hat insgesamt 355B Parameter, 32B aktivierte Parameter und 92 Schichten; GLM-5.3-Flash verfügt über 320B Gesamtparameter, 18B aktivierte Parameter und 45 Schichten. Im Vergleich zur früheren Flaggschiffarchitektur von GLM sind die Anzahl der tatsächlich an der Berechnung beteiligten Parameter pro Token und die Tiefe des Netzwerks deutlich gesunken.

Aber laut den von Zhipu veröffentlichten Benchmarks und praktischen Nutzungsergebnissen übertrifft die Gesamtleistung von GLM-5.3-Flash sogar GLM-5.2 mit einem größeren Parameterumfang.

Das bedeutet, dass „Flash“ diesmal nicht mehr nur eine einfache Verkleinerung des Flaggschiffmodells ist, sondern die Inferenzkosten auf Architekturebene neu gestaltet hat.

GLM-5.3-Flash ist das erste quelloffene fortschrittliche Modell mit einer gemischten Architektur aus spärlicher Aufmerksamkeit und linearer Aufmerksamkeit.

Dabei verarbeitet die lineare Aufmerksamkeit lokale Abhängigkeiten durch einen rekursiven Mechanismus; die spärliche Aufmerksamkeit nutzt einen leichtgewichtigen Indexierer, um globale Informationen abzurufen, die im langen Kontext tatsächlich berechnet werden müssen.

Für das Problem des Speichers und der Latenz des Indexierers selbst bei einem 1M-Kontext hat Zhipu zudem IndexPool eingeführt, der durch gewichtiges Pooling die ursprünglich 4 Cache-Vektoren des Indexierers zu einem einzigen Vektor komprimiert.

Laut den Messungen von Zhipu ist der Berechnungsaufwand für die Aufmerksamkeit von GLM-5.3-Flash im Vergleich zu GLM-5.3 um das 3,01-fache gesunken, und die Größe des KV-Caches ist um das 4,44-fache gesunken.

Unter den von Zhipu aufgeführten Basismodellen wie GLM-5.3, DeepSeek-V4-Flash und Kimi-K3 hat GLM-5.3-Flash den geringsten Berechnungsaufwand für die Aufmerksamkeit. Allerdings liegt die durchschnittliche Größe des KV-Caches pro Schicht noch geringfügig über der von Kimi-K3 und DeepSeek-V4-Flash.

Diese Datenmenge erklärt teilweise, warum der Preis so stark gesenkt werden kann.

Insbesondere bei Codierungs- und Agent-Aufgaben kann eine Aufgabe Dutzende Minuten oder sogar Stunden lang ununterbrochen laufen, wobei das Modell kontinuierlich Code, historische Gespräche und Rückgabeergebnisse von Tools einliest und der Kontext ständig wächst. Der Berechnungsaufwand für die Aufmerksamkeit und der KV-Cache bestimmen direkt, wie viel Videospeicher, Rechenleistung und Inferenzkosten für lange Aufgaben verbraucht werden.

GLM-5.3-Flash hat zudem ein Mannigfaltigkeits-beschränktes Hyper-Connect mHC eingeführt und einen multimodalen Vortrainingskorpus mit 30T Token verwendet, um die Erweiterungsfähigkeit des Modells weiter zu verbessern, während die Anzahl der Parameter und der Berechnungsaufwand gesenkt werden. Das Ergebnis ist kein einfach „kleineres“ Modell, sondern genauer gesagt eine vollständige Modellarchitektur, die auf kostengünstige Inferenz neu ausgelegt ist.

03

Flash dringt nun in den Bereich fortschrittlicher Modelle vor

Eine weitere Veränderung besteht darin, dass sich die Positionierung von „Flash-Modellen“ ändert.

In der Vergangenheit standen Bezeichnungen wie Flash, Mini, Air normalerweise für schnellere und günstigere Leistung, wobei gleichzeitig deutliche Leistungseinbußen hingenommen wurden.

GLM-5.3-Flash mit 320B Gesamtparametern und 18B aktivierten Parametern erreicht einen Wert von 57 Punkten im umfassenden Intelligenzindex von Artificial Analysis, was dem Wert von Claude Opus 4.8 entspricht, während der Preis nur etwa 1/40 des letzteren beträgt.

Es ist zudem das erste native multimodale Modell der GLM-5-Serie.

Die diesmal hinzugefügte visuelle Funktion ist keine einfache Erweiterung um die Fähigkeit, „Bilder zu betrachten“, sondern dient direkt der Unterstützung von Codierungs- und Agent-Aufgaben. Bei Aufgaben wie Webseiten, Spielen und 3D-Modellierung generiert das Modell nicht nur Code, sondern auch Seiten, Interaktionen und virtuelle Szenen, die tatsächlich auf dem Bildschirm angezeigt werden.

Nur wenn das Modell die von ihm generierten Ergebnisse erneut „sehen“ kann, kann es feststellen, ob Schaltflächen fehlplatziert sind, ob Seiten wirklich erfolgreich gerendert werden und ob 3D-Szenen den Erwartungen entsprechen, bevor es mit der weiteren Bearbeitung fortfährt.

Zhipu hat daher speziell die Fähigkeit des Modells zur visuellen Selbstprüfung und zur Verbesserung während des Testens trainiert, sodass das Modell die Ergebnisse nach der Generierung weiter beobachten und anhand der Rückmeldungen aus der Umgebung iterieren kann.

Zum Beispiel hat GLM-5.3-Flash in einem von der Behörde gezeigten Fall ohne externe Materialien 16 Stunden lang selbstständig gearbeitet und in Blender ein professionelles Kochhaus und eine Testküche mit einer Fläche von etwa 400 Quadratmetern aufgebaut.

Ähnliche Mechanismen werden auch auf professionelle Aufgaben wie PPTX, PDF, DOCX, XLSX sowie Finanzen und Recht ausgeweitet: Das Modell generiert nicht nur Inhalte, sondern kann seine eigenen Ausgaben anhand der visuellen Ergebnisse weiter prüfen und bearbeiten.

Für Agenten ist diese Veränderung wichtiger als die „Multimodalität“ selbst. Frühere Codierungsmodelle prüften hauptsächlich, ob der Code korrekt ist; aber sie müssen vielmehr beurteilen, ob eine Arbeit letztendlich wirklich abgeschlossen wurde.

Betrachtet man GLM-5.3-Flash allein, handelt es sich um ein neues Modell mit weniger Parametern, niedrigeren Inferenzkosten und gleichzeitigem Eintritt in den Bereich fortschrittlicher Fähigkeiten.

Aber seit der sechs Tage dauernden Anonymitätsphase von Ox-Alpha wurde getestet, ob inländische Chips stabil und wirtschaftlich ein fortschrittliches Modell tragen und direkt echte Entwickler auf der ganzen Welt bedienen können.

Gleichzeitig wird GLM-5.3-Flash unter der MIT-Lizenz quelloffen gestellt, und die API wird gleichzeitig freigegeben.

Fähigkeiten auf dem Niveau fortschrittlicher Modelle, offene Gewichte, groß angelegte Online-Unterstützung durch inländische Chips sowie extrem niedrige API-Preise treten gleichzeitig auf.

Dieser Artikel stammt von „Tencent Technology“, Autor: Xiao Jing, Redakteur: Xu Qingyang, veröffentlicht mit Genehmigung von 36Kr.