Wenn Token zu einem Geschäft geworden ist, müssen Unternehmen ihre KI-Bilanz ziehen.

Den Wert jedes Tokens genau zu berechnen, ist der Wendepunkt für die praktische Umsetzung von KI.

Text ｜ LUO Zhenhao

Redaktion ｜ LIU Junhong

In den vergangenen zwei Jahren war die häufigste Aussage in Unternehmen: „Ich setze KI ein“, aber viele Menschen haben kein klares Bewusstsein dafür, wofür KI konkret verwendet wird und welche Effekte sie erzielt. Zu viele Unternehmen wählen den Ansatz „einfach erstmal anwenden“, bis eines Tages eine unerwartete, horrende Token-Rechnung auftaucht und sie feststellen, dass sich diese Investition überhaupt nicht nachvollziehen lässt.

Es gibt aber auch Unternehmen, die diese Rechnung bis ins Detail durchschauen: Ein großer Supermarktkettenriese nutzt KI, um Verträge mit Lieferanten auszuhandeln, wodurch die Kosten um 3 % gesenkt, der ROI auf das Vierfache gesteigert und die Zahlungsfrist um 35 Tage verlängert wurde …

Für die Unternehmensanwendung wird es wichtiger denn je, die Rechnung für KI klar und nachvollziehbar zu gestalten.

In den vergangenen zwei Jahren war die sichtbarste Veränderung in der KI-Branche, dass die Modelle immer größer und die Rechenleistung immer stärker werden. Nach dem Eintritt in die Phase von Agenten und Unternehmensanwendungen stehen die Unternehmen jedoch vor einem realistischeren Problem: Was genau haben die ausgegebenen Rechenressourcen und Tokens zurückgebracht?

Das ist auch der Grund, warum die „Token-Ökonomie“ zunehmend in den Fokus der Industrie rückt.

Nach Angaben des Nationalen Datenamtes lag die tägliche durchschnittliche Anzahl an Token-Aufrufen in China Anfang 2024 bei 100 Milliarden; bis Ende 2025 stieg sie auf 100 Billionen; im März dieses Jahres überschritt sie bereits 140 Billionen, was einem Anstieg von über dem Tausendfachen innerhalb von zwei Jahren entspricht. Hinter diesen Daten verbirgt sich, dass sich die Art und Weise der KI-Nutzung verändert. Früher berechneten Unternehmen üblicherweise, wie viele GPUs sie gekauft und wie viele Rechenzentren sie gebaut haben. Heute zählt, wie viele Aufgaben eine KI-Investition konkret erledigt, wie viel Zeit dadurch eingespart und wie viel Umsatz dadurch generiert wird.

Da KI von der „Generierung von Inhalten“ zur „kontinuierlichen Erledigung von Arbeiten“ übergeht, entwickelt sich der Token zunehmend von einem technischen Indikator zu einem betriebswirtschaftlichen Kennwert.

Früher war der Token meist nur eine Maßeinheit für den Aufruf von Modellen. Heute wird die Nachfrage nach Tokens mit der mehrstufigen Schlussfolgerung, dem Aufruf von Tools und dem Abrufen von Kontext durch Agenten, sowie der langfristigen Zusammenarbeit mehrerer Agenten immer vielfältiger.

Dr. Lai Junjie, Vice President of Engineering and Solutions für die Region China bei NVIDIA, ist der Ansicht, dass eine Aufgabe eines Agenten 50 bis 500 aufeinanderfolgende Modellaufrufe umfassen kann, und die Zusammenarbeit mehrerer Agenten den Token-Verbrauch weiter steigert. Das bedeutet, dass die Rechnung für KI-Investitionen in Unternehmen neu berechnet wird.

Daher geht es nicht mehr nur darum, wie günstig Tokens sind, sondern darum, wie der Wert der Tokens selbst definiert, die Nachfrage vorhergesagt, die Effizienz des Angebots gesteigert und schließlich der geschäftliche Nutzen erzielt wird.

NVIDIA fasst dies als vier Säulen der Token-Ökonomie zusammen: Wert, Nachfrage, Angebot und Monetarisierung.

Aus dieser Perspektive befasst sich die Token-Ökonomie im Grunde mit einer neuen Betriebslogik, nachdem die KI-Industrie von technischen Investitionen zur Umsetzung von Produktivität übergegangen ist.

Wenn in der vorherigen Phase die Kernfrage von Unternehmen bei KI-Diskussionen darin bestand, wie viel Rechenleistung investiert werden muss, wird die eigentliche Frage in dieser Phase nun: Können die durch diese Rechenleistung erzeugten Tokens einen nachhaltig messbaren geschäftlichen Wert schaffen?

Zu diesem Thema führte Wang Yisu, Gründer von Lightcone Intelligence, ein Podcast-Gespräch mit Dr. Lai Junjie, Vice President of Engineering and Solutions für die Region China bei NVIDIA, über die „Token-Ökonomie“.

NVIDIA steht auf der Seite der KI-Infrastruktur und erörtert, wie Modelle, GPUs, Netzwerke, Inferenzoptimierung und Serving-Frameworks gemeinsam die Stückkosten und Liefergeschwindigkeit von Tokens bestimmen. Als Industriebeobachter fragt Lightcone Intelligence aus der Perspektive von Unternehmensanwendungen nach, ob KI tatsächlich in echte Geschäftsprozesse integriert ist und wie man den Token-Verbrauch, die Prozesseffizienz und das endgültige Betriebsergebnis in einer einzigen Tabelle zusammenfassen kann.

Im Folgenden das Gesprächsprotokoll, das von Lightcone Intelligence ohne Änderung des ursprünglichen Sinns bearbeitet wurde:

Frage: Bitte erläutern Sie beide anhand Ihrer praktischen Erfahrungen, wie man Tokens wirtschaftlicher und effizienter nutzt?

Herr Dr. Lai: Bei NVIDIA ermutigen wir unsere Mitarbeiter sehr, zu erforschen, wie KI in tägliche Arbeitsabläufe integriert werden kann, um KI zu einem Assistenten zur Steigerung der persönlichen Effizienz zu machen. Unser CEO Herr Jensen Huang hat auch erwähnt, dass in Zukunft jeder Mitarbeiter seinen eigenen KI-Assistenten haben wird. Alle unsere internen Teams, Technik, Produkt, Recht, Marketing, Finanzen usw., erforschen ständig, wie KI in konkrete Arbeitsabläufe integriert werden kann. Aus dieser Perspektive wird die Zusammenarbeit zwischen Mensch und KI zu einer neuen Arbeitsweise.

Aus meiner persönlichen Nutzungserfahrung liegt der Schlüssel zur Nutzung von Tokens nicht einfach darin, den Verbrauch zu senken, sondern Szenarien zu finden, in denen KI die persönlichen Fähigkeiten wirklich erweitert, sodass jede KI-Interaktion einen höheren Wert erzeugt. Wenn KI beispielsweise in mehr Schritten bei der Informationsorganisation, Datenanalyse, Problemzerlegung oder anderen hochgradig repetitiven Aufgaben eingebunden wird, kann uns das helfen, repetitive Arbeiten zu reduzieren und mehr Zeit für Urteilsvermögen und kreative Tätigkeiten zu verwenden.

Wang Yisu: Wir können heute nicht mehr auf KI verzichten. Als Inhaltsersteller geben wir hauptsächlich Geld für tiefgehende Inhaltsrecherchen und Videoproduktion aus. Ich selbst habe auch einige kleine Software für KI-Codierung ausprobiert. Konkret gesagt nutzen wir KI am häufigsten für Informationsabfragen und tiefgehende Recherchen beim täglichen Schreiben, und unser Videoteam setzt sie zunehmend bei der Generierung von Materialien ein. Was die Kosten angeht, gibt jeder von uns etwa Hunderte Yuan pro Monat aus, wir nutzen Mitgliedschaften bei einigen ausländischen KI-Softwares sowie bei gängigen hochwertigen inländischen KI-Diensten.

Frage: Bei denselben 1 Million Tokens, die verschiedene Modelle auf unterschiedliche Aufgaben anwenden, kann der letztendlich erzeugte Wert völlig unterschiedlich sein. Herr Dr. Lai, könnten Sie zunächst erklären, was ein Token eigentlich ist?

Herr Dr. Lai: Der Token ist die Basiseinheit, mit der KI-Modelle Informationen verarbeiten und generieren. Man kann ihn auch als kleinste Einheit der Intelligenz bezeichnen, die in KI-Fabriken erzeugt wird, und er ist ein wichtiger Indikator zur Messung der KI-Arbeitslast. Aber der Token selbst entspricht nicht direkt einem Wert.

Wir können es mit einer einfachen Formel verstehen: Die Kosten pro Einheit Token entsprechen den Gesamtbetriebskosten des Rechenzentrums pro Stunde geteilt durch die Anzahl der Tokens, die dieses Rechenzentrum pro Stunde in Echtzeit liefern kann. Die Kosten umfassen viele Aspekte: GPUs, CPUs, Netzwerke, Speicher, Stromversorgung usw. Viele Unternehmen neigen bei der Bewertung von Investitionen in die KI-Infrastruktur dazu, sich nur auf einzelne Kostenpunkte wie den Preis der GPUs zu konzentrieren. Aber was die Token-Kosten wirklich bestimmt, ist oft die Gesamteffizienz: Wie viele nutzbare Tokens können mit denselben Investitionen erzeugt werden?

Aus der Perspektive der Token-Ökonomie müssen wir daher gleichzeitig die Gesamtbetriebskosten des Rechenzentrums und die End-to-End-Ausgabeeffizienz berücksichtigen und die Bewertungsmaßstäbe von Eingabemerkmalen auf Ausgabemerkmale umstellen.

Frage: Das bedeutet also, dass der Wert von Tokens nicht einheitlich ist, sondern mit der dahinterstehenden Infrastruktur, der Fähigkeit des Modells, dem Anwendungsszenario und dem endgültigen Geschäftsergebnis zusammenhängt. Welche Schlüsselfaktoren beeinflussen den Wert von Tokens konkret?

Herr Dr. Lai: Um zu beurteilen, ob ein Token wertvoll ist, kann man zwei KernDimensionen betrachten.

Die erste Dimension ist der Intelligenzgehalt. Bei denselben 1 Million Tokens, die von einem fortschrittlichen Inferenzmodell mit Langkontextfähigkeit generiert werden, im Vergleich zu Tokens aus einem leichtgewichtigen Modell, sind die dahinterstehenden Verständnisfähigkeiten, Schlussfolgerungsfähigkeiten und Kontextinformationen völlig unterschiedlich, erstere hat eine höhere Intelligenzdichte.

Die zweite Dimension ist die Interaktivität, also die Geschwindigkeit, mit der der Token den Nutzer erreicht. Bei Szenarien wie Programmierassistenten oder häufigen Dialogen haben nur Tokens einen Wert, die nahezu in Echtzeit ankommen; bei Aufgaben wie der Stapelverarbeitung von Dokumenten ist die Latenz der Tokens weniger relevant.

Beide Dimensionen hängen aber von einer Voraussetzung ab: Der Wert ist relativ zum Anwendungsfall. Ein kleines Modell, das nach der Schulung für ein bestimmtes Szenario angepasst wurde, kann mit nur einem Bruchteil der Kosten die Effekte eines großen Modells erreichen oder sogar übertreffen. Der zusätzliche Intelligenzaufschlag lohnt sich nur dann, wenn er tatsächlich genutzt wird.

Daher können sich Unternehmen bei der praktischen Bewertung einige Fragen stellen: Wie stark muss die Intelligenz für diese Aufgabe sein? Wie schnell muss die Antwort erfolgen? Wie hoch sind die Kosten eines fehlerhaften Ergebnisses? In Szenarien wie Medizin oder Finanzen sind Genauigkeit und Zuverlässigkeit beispielsweise harte Kriterien.

Wang Yisu: Der Token selbst ähnelt eher einer grundlegenden Investition. Wie groß der letztendlich erzeugte Wert ist, hängt davon ab, in welchen Aufgaben er angewendet wird und wie Unternehmen ihn in ihre Geschäftsprozesse integrieren. Meiner Beobachtung nach lassen sich KI-Szenarien grob in zwei Kategorien einteilen.

Die eine Kategorie sind horizontale Szenarien, also allgemeine Anforderungen, die branchenübergreifend existieren, wie z. B. Unternehmenswissensassistenten, Kundenservice-Agenten, Büroassistenten, Code-Assistenten usw. Diese Anwendungen haben eine breite Abdeckung, ihr Wert zeigt sich vor allem darin, dass sie Mitarbeitern helfen, die Effizienz zu steigern und repetitive Arbeiten zu reduzieren.

Die andere Kategorie sind branchenspezifische Szenarien, also Anwendungen, die mit spezifischem Branchenwissen und Geschäftsprozessen verbunden sind, wie z. B. Investmentforschungsanalysen im Finanzbereich, unterstützende Diagnosen im medizinischen Bereich, Gerätewartung im Fertigungsbereich usw. Für diese Szenarien muss KI in der Regel professionellere Datenprozesse und Geschäftslogik verstehen. In beiden Szenarien können Tokens direkt einen wirtschaftlichen Wert erzeugen.

Frage: Was ist die Token-Ökonomie? Warum wird sie heute zu einem immer wichtigeren Rahmenwerk für Unternehmen bei KI-Diskussionen?

Herr Dr. Lai: Aus der Perspektive von NVIDIA beschreibt die Token-Ökonomie die Ökonomie hinter der Generierung und Nutzung von Tokens. Da sich Rechenzentren von Orten zur Speicherung und Verarbeitung von Daten zu spezialisierten KI-Fabriken zur Erzeugung von Intelligenz entwickelt haben, ist der Token die Produkteinheit, die von diesen KI-Fabriken erzeugt wird.

Die Token-Ökonomie beantwortet nicht nur die Frage „Wie viel ist ein Token wert?“, sondern vier Dinge: Erstens, wie Tokens bewertet werden, also wie viel die von ihnen getragene Intelligenz und das Interaktionserlebnis wert sind. Zweitens, wie sie konsumiert werden, also wer sie nutzt, wie viel und in welchen Szenarien. Drittens, wie sie bereitgestellt werden, also wie man Tokens durch die Infrastruktur effizient und kostengünstig erzeugt. Und schließlich, wie sie monetarisiert werden, also wie sie letztendlich in Umsatz und geschäftlichen Nutzen umgewandelt werden.

Dass dieses Konzept immer wichtiger wird, liegt größtenteils daran, dass KI von der Pilot- und groß angelegten Trainingsphase in die Phase der skalierbaren Anwendung und kontinuierlichen Inferenz eintritt. Mit der Entwicklung von KI-Agenten kann eine Aufgabe einen längeren Kontext, mehrere Schlussfolgerungsrunden und Tool-Aufrufe erfordern, was die Nachfrage nach Tokens und ihre Nutzungsweise stark verändert.

Wenn Tokens in die skalierbare Produktion und Nutzung eintreten, müssen Unternehmen wie bei der Verwaltung eines Produktionssystems auf ihre Ausbringung, Effizienz und Stückkosten achten. Aus dieser Perspektive verbindet die Token-Ökonomie die technischen Investitionen in KI mit dem wirtschaftlichen Ertrag. Unternehmen müssen nicht nur darüber nachdenken, wie Tokens effizienter und kostengünstiger erzeugt werden können, sondern auch, wofür diese Tokens verwendet werden und welche Geschäftsanwendungen und Wertschöpfung sie letztendlich unterstützen können.

Wang Yisu: Ich möchte zuerst eine Zahl nennen, die mich dazu bringt, dass die Token-Ökonomie unbedingt ernsthaft diskutiert werden muss. Von Anfang 2024 bis März 2026 ist die tägliche durchschnittliche Anzahl an Token-Aufrufen in China von 100 Milliarden direkt auf 140 Billionen angestiegen, was einem Anstieg um das 1400-fache innerhalb von zwei Jahren entspricht.

Hinter dieser Zahl laufen drei Dinge gleichzeitig ab.

Erstens: Früher haben Unternehmen auf die Investition in Rechenleistung geachtet, heute achten sie auf die erzeugte Intelligenz. Früher folgte die Logik: Wie viele Karten haben Sie gekauft, wie viel Strom haben Sie verbraucht, wie viele Rechenzentren haben Sie gebaut – das war die Berechnung aus der Eingabedimension. Mit dem Aufkommen der Token-Ökonomie müssen Unternehmen eine andere Rechnung aufstellen: Wenn ich 1 Dollar für Tokens ausgebe, wie viele Aufgaben erledigen sie mir, wie viel Zeit sparen sie mir und wie viel Umsatz generieren sie mir? Das ist die Berechnung aus der Ausgabedimension. Der Übergang von der Eingabe zur Ausgabe ist der Wendepunkt, an dem die gesamte KI-Branche vom technischen Wettbewerb zur praktischen wirtschaftlichen Umsetzung wechselt.

Zweitens: In Unternehmen entstehen neue Maßeinheiten, um KI-Investitionen neu zu verwalten. Das typischste Beispiel ist, dass dieses Jahr einige Unternehmen DAA eingeführt haben, die Anzahl der täglich aktiven Agenten. Warum gibt es das? Denn wenn ein Unternehmen nur darauf achtet, wie viele Tokens es verbraucht, ist das genauso, als würde ein Stahlwerk nur darauf achten, wie viel Kohle es verbrannt hat. Der hohe Kohleverbrauch bedeutet nicht, dass die Stahlproduktion gut ist. IDC hat auch einen Bericht über DAA veröffentlicht, und wir haben beobachtet, dass einige Betreiber