Wurde die größte Schwachstelle der heimischen Rechenleistung von einer Token-Fabrik behoben?

In den letzten zwei Jahren war die am häufigsten diskutierte Einheit im Bereich der KI-Infrastruktur P.

Beispielsweise wurde die Rechenkapazität eines Unternehmens in P und die Anzahl der GPUs in einem intelligenten Rechenzentrum plötzlich zum intuitivsten Maßstab für die Beurteilung der Stärke. Sowohl der Bau intelligenter Rechenzentren durch lokale Regierungen als auch der Erwerb von Rechenkapazität durch Unternehmen für große Modelle konzentrierten sich hauptsächlich auf die Anzahl der Chips und den Umfang der Rechenleistung.

Doch mit dem Eintritt in das Agentenzeitalter ändert sich diese Berechnungsweise. Laut Daten von IDK lag der durchschnittliche tägliche Token-Verbrauch im chinesischen Unternehmens-MaaS-Markt im Januar 2025 bei etwa 1,6 Billionen; bis Ende Dezember desselben Jahres war er auf 9,6 Billionen angestiegen. Für das gesamte Jahr 2026 wird ein Token-Verbrauch von 40.000 Billionen prognostiziert, was etwa dem 20-fachen des Wertes von 2025 entspricht und einem Tagesdurchschnitt von fast 110 Billionen entspricht.

Die treibenden Kräfte hinter diesem Wachstum stammen hauptsächlich aus der fortschreitenden Reifung multimodaler Modelle und der großflächigen Implementierung von Agentenanwendungen. Die Funktionen und Rollen von Agenten werden immer vielfältiger: Sie gehen weit über das passive Beantworten von Fragen hinaus, lesen längere Kontexte, rufen Suchfunktionen, Datenbanken und externe Tools auf, zerlegen Aufgaben und führen mehrstufige Schlussfolgerungen durch.

Zhang Xingcheng, Chefwissenschaftler der SenseCore-Gruppe von SenseTime, erklärte in einem Interview, dass in der Vergangenheit die Modelle in Chat-Szenarien kurze Eingaben und lange Ausgaben hatten; in Agenten-Szenarien kann das Verhältnis von Eingabe zu Ausgabe jedoch 100:1 oder sogar höher erreichen, und der Kontext entwickelt sich von zehntausenden Token zu hunderttausenden oder sogar Millionen von Token.

Daher kaufen Unternehmen nicht mehr abstrakte Rechenkapazität, sondern die Token, die diese letztendlich erzeugen können. Dies führt dazu, dass Unternehmen beginnen, sich Fragen zu stellen: Wie viele Token können mit einem bestimmten Budget erzeugt werden? Wie viele Inferenzprozesse können mit einer Kilowattstunde Strom durchgeführt werden? Wie lange dauert die Migration eines Modells auf einen neuen Chip? Kann die Stabilität bei hoher Parallelität aufrechterhalten werden? Diese Fragen werden unweigerlich zu neuen Kriterien für die Rechenkapazitätsbilanz.

Laut 36kr hat SenseCore während der WAIC 2026 Technologien für heterogenes gemischtes Inferenzieren, vollständige Stack-Anpassung, Strom-Rechen-Koordination für Agenten und ein Ökosystemprogramm für inländische Chips vorgestellt. Das Unternehmen versucht zu beantworten, wie man Chips mit unterschiedlichen Architekturen und Leistungen zu einem stabilen, kostengünstigen und sogar profitablen Token-Produktionssystem organisieren kann, da die Anzahl der inländischen KI-Chips stetig zunimmt. Alle diese Maßnahmen zielen auf die Positionierung als „die KI-Infrastruktur, die große Modelle am besten versteht“ ab.

Die inländische Rechenkapazität überwindet die Gewinnschwelle nicht durch eine leistungsstärkere einzelne Karte

In der Vergangenheit war das Hauptproblem der inländischen Rechenkapazität die Frage nach der „Existenz“. Da inländische KI-Chiphersteller allmählich in die kommerzielle Phase eintreten, wandelt sich das Problem zu der Frage nach der „Nutzung“. Verschiedene Chips verwenden unterschiedliche Hardwarearchitekturen, Compiler, Operatoren, Kommunikationsmethoden und Software-Toolchains. Ein Modell, das bereits auf der NVIDIA-Plattform läuft, erfordert häufig eine erneute Anpassung, wenn es auf einen inländischen Chip migriert wird. Bei einem Wechsel zu einem anderen Chip müssen die Probleme erneut durchlaufen werden.

Zhang Xingcheng bezeichnet diese Arbeit als „mühsame Aufgabe“. SenseTime begann 2018 mit der Anpassung inländischer Chips und organisierte schrittweise Chiphersteller, das eigene Entwicklungsteam, Universitäten und Forschungseinrichtungen in ein einheitliches System. Gemeinsam mit dem Shanghai AI Laboratory fördert das Unternehmen das DeepLink-Open-Source-System, um die Anpassung von Operatoren, Kompilierung und heterogener Kommunikation für verschiedene Chips zu vereinheitlichen.

Gleichzeitig werden Agenten auch eingesetzt, um Probleme der Infrastruktur selbst zu lösen. Aufgaben wie die Migration, Entwicklung und Leistungsoptimierung von Operatoren, die früher von Ingenieuren einzeln ausgeführt werden mussten, können heute mit KI-Unterstützung erledigt werden. Nachdem Chiphersteller die zugrunde liegenden Operatoren bereitgestellt haben, führt SenseCore automatisierte Migration und Optimierung auf der Plattform durch, um die Ingenieurskosten für die Integration inländischer Chips in neue Modelle und Geschäftsprozesse zu senken.

Doch die Anpassung ist nur der erste Schritt. Im ersten Halbjahr dieses Jahres begann SenseCore, eine zuvor erprobte Technologie in einen großflächigen kommerziellen Dienst umzuwandeln: das heterogene gemischte Inferenzieren. Die Inferenz großer Modelle gliedert sich normalerweise in zwei Phasen: Prefill und Decode. Prefill ist für das Lesen und Verstehen großer Mengen an Kontext aus Benutzereingaben zuständig und rechenintensiv; Decode generiert Token nacheinander und stellt höhere Anforderungen an den Videospeicherbandbreite, Latenz und Stabilität.

In herkömmlichen Lösungen werden diese beiden Phasen normalerweise von derselben GPU ausgeführt. Der Ansatz von SenseCore besteht darin, die Aufgaben aufzuteilen: Allgemeine inländische Chips übernehmen das Prefill, während hochleistungsfähige Chips für das Decode reserviert werden. Beide werden dann durch ein einheitliches Netzwerk-, Planungs- und Cachesystem verbunden. Durch PD-Trennung, heterogene Vernetzung und Systemoptimierung wird eine höhere Gesamt-Token-Ausbeute zu niedrigeren Hardwarekosten erzielt.

Darüber hinaus hängt diese kombinierte Optimierung und technische Implementierung im Gegensatz zu anderen Token-Fabriken von dem selbstgebauten, riesigen AIDC-Intelligent-Computing-Zentrum von SenseCore ab. Xuan Shanming, CTO der SenseCore-Gruppe von SenseTime, erklärte, dass die Optimierung inländischer Rechenkapazität nicht nur darin besteht, Modelle auf eine inländische Grafikkarte zu migrieren. Basierend auf dem selbstgebauten Lingang AIDC kann SenseTime gleichzeitig die Hardwarekombination, Netzwerkarchitektur und Softwaresystem modifizieren, um verschiedene heterogene Kombinationen aus inländischen Chips und Hochleistungs-Chips zu testen. „Jeder einzelne Aspekt mag keine besonders starke Stärke sein, aber in der Kombination entsteht eine plattformweite Stärke.“ Im Gegensatz dazu haben viele Betreiber von Rechenkapazität keine physischen Zugriffsrechte zur Modifikation von Rechenzentren, und Softwarehersteller können Hardware und Netzwerksysteme kaum integrieren, was die tatsächliche Implementierung des heterogenen gemischten Inferenzierens erschwert.

Der Schlüssel zu dieser kombinierten Optimierung liegt gerade darin, nicht zu verfolgen, dass eine einzelne Karte in allen Aufgaben die beste Leistung erbringt. Yang Fan, Mitbegründer von SenseTime und Präsident der SenseCore-Gruppe, verglich dies mit einem Triathlon: Ein Schwimmer, der allein an einem Triathlon teilnimmt, erzielt möglicherweise kein gutes Ergebnis, aber wenn drei Athleten, die jeweils in unterschiedlichen Disziplinen stark sind, nacheinander antreten, kann das Gesamtergebnis besser sein.

Dasselbe Prinzip gilt für die KI-Infrastruktur. Große Sprachmodelle, Videogenerierung, Weltmodelle, körperliche Intelligenz und KI für die Wissenschaft haben unterschiedliche Anforderungen an Berechnung, Videospeicher und Kommunikation. Selbst wenn zukünftig leistungsstärkere inländische Chips das Decode übernehmen, können ältere Generationen von Chips weiterhin für das Prefill oder die Datengenerierung zuständig sein, während neuere Chips komplexere Aufgaben übernehmen – die heterogene Kombination wird dadurch nicht verschwinden.

Aus Sicht von SenseTime ist Heterogenität keine Notlösung, solange inländische Chips noch nicht ausgereift sind, sondern ein Weg, um die systemische optimale Lösung zu finden, während Modelle und Hardware schnell weiterentwickelt werden und die Anforderungen noch nicht vollständig definiert sind. Die kommerziellen Ergebnisse zeigen sich bereits: Laut Yang Fan kann der inländische Cluster für gemischtes Inferenzieren derzeit eine positive Bruttomarge erzielen.

Das Volumen der Token-Dienste von SenseCore expandiert ebenfalls. Schätzungen zufolge wird das tägliche Dienstvolumen von etwa 400 Milliarden Token Anfang 2026 auf etwa 2,42 Billionen Ende Juli steigen, mit einem Jahresendziel von 10 Billionen – etwa dem 25-fachen des Wertes zu Beginn des Jahres.

Xuan Shanming räumte ein, dass die Kommerzialisierung inländischer Rechenkapazität nicht gleichzeitig in den Trainings- und Inferenzphasen stattfinden wird. Derzeit stehen inländische Chips bei der Modellausbildung noch vor großen Herausforderungen, und relativ ausgereifte geschlossene Kreise finden sich eher bei Modellen für Video, Text und Bild. Im Gegensatz dazu wird das Inferenzieren voraussichtlich zuerst an Bedeutung gewinnen: Durch PD-Trennung und heterogenes gemischtes Inferenzieren werden verschiedene Chips für die Aufgaben eingesetzt, für die sie jeweils besser geeignet sind. Dies verbessert nicht nur den Gesamtdurchsatz, sondern ermöglicht auch die Integration inländischer Chips in reale Geschäftsprozesse.

Die Positionierung von SenseTime als „der Anbieter, der große Modelle am besten versteht“ beruht auf dieser Fähigkeit zur Aufgabenzerlegung. Yang Fan zufolge verbreiten sich technisches Wissen schnell, und eine einzelne Fähigkeit kann kaum länger als zwei Jahre bestehen. Ein dauerhafter Wettbewerbsvorteil liegt darin, dass eine Organisation immer einen Schritt voraus ist, die zukünftige Entwicklung von nachgelagerten Modellen erkennt und die Infrastruktur entsprechend anpasst. Im Vergleich zu anderen KI-Unternehmen hat SenseTime einen einzigartigen organisatorischen Vorteil: Die Modellteams und die Infrastrukturteams sind eng miteinander verbunden. Beispielsweise ist Zhang Xingcheng, Chefwissenschaftler von SenseCore, auch am SenseTime Research Institute beteiligt. Durch Rotation und gemeinsame Forschung zwischen den beiden Teams werden Änderungen der Modelllast schnell in die Auswahl von Chips, Netzwerken, Caches und Planungssystemen integriert.

Diese End-to-End-Fähigkeit erstreckt sich auch auf das Stromsystem. Das Lingang AIDC von SenseTime wurde 2024 als erstes 5A-Intelligent-Computing-Zentrum in China ausgezeichnet. Diese Zertifizierung bewertet Indikatoren wie theoretische Rechenkapazität, nutzbare Rechenkapazität, Energieeffizienz und Unterstützung von Geschäftsszenarien umfassend.

Herkömmliche Rechenzentren verwenden normalerweise den PUE-Wert, um die Energieeffizienz zu messen. PUE gibt jedoch nur an, wie viel Strom für IT-Geräte verwendet wird, und kann nicht beantworten, wie viele nutzbare Token dieser Strom letztendlich erzeugt. In Extremfällen können Rechenzentren zur Optimierung des PUE-Werts die Lüfter von Servern mit hoher Geschwindigkeit betreiben, während GPUs aufgrund von Temperatur- oder Leistungsbeschränkungen heruntergetaktet werden – was zu besseren lokalen Werten führt, aber die tatsächliche Rechenleistung verringert. Daher hat SenseCore den TPW-Wert vorgeschlagen, der die Token-Ausbeute pro Einheit Stromkosten darstellt.

In Lingang verbindet SenseCore das Energiespeichersystem, das Rechenzentrumsverwaltungssystem und die Plattform für den Betrieb von Rechenkapazität, um die Rechenleistung basierend auf der Echtzeit-Anforderung von Aufgaben, dem Strompreis und der Belastung des Stromnetzes zu planen. Offline-Inferenz, Modellbewertung und teilweise Vortrainingsaufgaben müssen nicht sofort ausgeführt werden und können in Zeiträume mit geringerer Strombelastung verlagert werden. Beispielsweise hat das Lingang-Rechenzentrum während der Nachfragereaktion des Shanghai-Stromnetzes im Juli innerhalb von zwei Stunden 75 % seiner Stromkapazität freigesetzt und den Stromverbrauch um etwa 46.000 kWh reduziert. SenseCore möchte damit beweisen, dass intelligente Rechenzentren nicht nur große Stromverbraucher sein müssen, sondern auch als flexibler „Kapazitätspool“ im Stromnetz fungieren können.

Stromkosten sind derzeit jedoch nicht der entscheidende Faktor für die Rentabilität des Token-Geschäfts in China. Yang Fan schätzt, dass die Koordination von Rechenleistung und Stromkosten in China einen Kostenunterschied von etwa 10 Prozentpunkten erzeugen kann. Ihr Wert wird in ausländischen Märkten wie Südostasien und dem Nahen Osten mit höheren Strompreisen noch deutlicher werden.

Drei Säulen: Regionen, Szenarien und Ökosysteme – damit jeder auf eine Token-Fabrik zugreifen kann

Tatsächlich fehlt es in China nicht an Unternehmen, die intelligente Rechenzentren bauen, aber viele Projektteilnehmer sind getrennt und fragmentiert. Einige bieten Rechenzentrumsräume an, andere kaufen Server, einige sind für die Vernetzung zuständig, andere vertreiben die Rechenkapazität weiter, und wieder andere verkaufen sie an Endkunden. Jede Ebene muss Gewinne erzielen, aber keine einzelne Instanz kann alle Daten einsehen – geschweige denn eine gemeinsame Optimierung zwischen Modellen, Chips, Netzwerken, Strom und Kundenaufgaben durchführen.

Yang Fan glaubt, dass nur wer direkt mit dem Endverkehr in Kontakt kommt und die Rechenkapazität basierend auf verschiedenen Kunden, Modellen und Aufgaben plant, Raum für die Optimierung der Token-Kosten finden kann.

Hierin liegt auch der Unterschied zwischen SenseCore und großen Technologieunternehmen. Große Unternehmen wie Alibaba und Volcano Engine verfügen ebenfalls über End-to-End-Fähigkeiten von Rechenzentren bis zu Modellen und Anwendungen, aber ihre besten Ressourcen werden vorrangig für ihre eigenen E-Commerce-, Inhalts- und Cloud-Dienste eingesetzt. SenseCore hingegen ist bereit, KI-Unternehmen, Forschungseinrichtungen und industriellen Kunden hochstabile, hochflexible und erweiterbare End-to-End-Systemdienste anzubieten.

Laut den von Yang Fan bekanntgegebenen Plänen plant SenseTime, mindestens fünf inländische Cluster mit jeweils 10.000 Chips aufzubauen, um mehr als 200 KI-Startups zu bedienen. Die Entscheidung für fünf unterschiedlich kombinierte 10.000-Chips-Cluster anstelle eines einzelnen 100.000-Chips-Clusters mit einheitlicher Architektur zielt darauf ab, die Flexibilität für verschiedene Modelle und Szenarien zu wahren.

Regionale Projekte dienen der Validierung des Geschäftsmodells. In Yancheng plant das erste Phase des SenseTime Intelligent-Computing-Zentrums eine Rechenkapazität von 3000P und versucht, durch die Integration von KI-Unternehmen, Branchenressourcen und Fonds einen geschlossenen Kreislauf von der Infrastruktur bis zu Anwendungen für lokale Schlüsselindustrien zu bilden. Das Projekt in Hongkong soll bis Ende 2026 die erste Generation von Rechenclustern fertigstellen und bis 2030 ein intelligentes Rechenzentrum mit einer Rechenkapazität von 40.000P aufbauen.

Das Saudi-Arabien-Projekt befindet sich noch in einer frühen Phase der Marktvalidierung. Yang Fan räumte ein, dass der Fokus der internationalen Expansion von KI-Infrastruktur im Jahr 2026 auf der Expansion und der Erprobung von Wegen liegt. In Südostasien und dem Nahen Osten gibt es derzeit nur wenige Projekte, und größere