Mehr Token, mehr Chips – der Kimi K3 verkörpert das Jevons-Paradoxon: Effizienzsteigerungen führen zu einem erhöhten Ressourcenverbrauch

Laut Peter Lee, Analyst für Halbleiter bei Citi, löst Kimi K3 das „Jevons-Paradoxon“ aus: Wenn die Verbesserung der technischen Effizienz die Kosten pro Nutzung senkt, steigt der Gesamtverbrauch an Ressourcen am Ende statt zu sinken, und die Nachfrage nach allgemeinem Speicher wie DDR5 und eSSD in Servern wird weiter zunehmen. Bank of America Securities ist der Ansicht, dass stärkere chinesische Open-Source-Modelle die US-KI-Giganten nicht unbedingt dazu veranlassen werden, ihre Investitionen in Rechenleistung zu kürzen. Im Gegenteil, die Verringerung der Modelllücke wird die Kosten für die Marktführer erhöhen, ihre Vorreiterrolle zu behaupten.

Kimi K3 bringt KI-Investoren zurück zu einer Kernfrage: Bedeuten günstigere und effizientere Modelle einen Rückgang der Nachfrage nach Chips und Speicher? Die Antworten von Citi und Bank of America Securities tendieren beide zu einer Verneinung. Effizienzgewinne könnten mehr Nutzungen freisetzen und dadurch den Gesamtverbrauch an Ressourcen in die Höhe treiben.

Laut der Trading-Plattform Zhuifeng verfügt Kimi K3, das von Moonshot AI veröffentlicht wurde, über 2,8 Billionen Parameter und ist auf Kontextfenster mit 1 Million Token und langfristige Agentenaufgaben ausgelegt. Laut Peter Lee, Analyst für Halbleiter bei Citi, wird die Nachfrage nach allgemeinem Speicher wie DDR5 und eSSD in Servern selbst bei breiter Nutzung von Kimi K3 weiter steigen.

Vivek Arya, Halbleiteranalyst bei Bank of America Securities, wies in einer Studie vom 17. Juli ebenfalls darauf hin, dass die führenden US-KI-Labore eher ihre Investitionen in Rechenleistung erhöhen als verringern werden. Wenn chinesische Open-Source-Modelle kontinuierlich aufholen, müssen Marktführer wie OpenAI, Anthropic und Google größere Trainingsumfänge, schwerere Inferenz und schnellere Produktiterationen einsetzen, um ihre Differenzierung aufrechtzuerhalten.

Das bedeutet, dass die Preislogik des Marktes für Kimi K3 nicht nur auf dem Rückgang der Kosten pro Inferenz basieren darf. Entscheidender ist, ob günstigere Modelle mehr Aufrufe, längere Aufgabenketten und mehr generierte Token mit sich bringen. Wenn die Antwort ja lautet, könnten GPU, HBM, DDR5, eSSD, Hochgeschwindigkeitsnetzwerke und Inferenzsysteme weiterhin profitieren.

01

Niedrige Preise und hohe Leistung lösen das „Jevons-Paradoxon“ aus

Citi betrachtet Kimi K3 als ein potenzielles Beispiel für das „Jevons-Paradoxon“ in der KI-Wertschöpfungskette. Der Kern dieses Paradoxons liegt darin, dass nachdem die Verbesserung der technischen Effizienz die Kosten pro Nutzung gesenkt hat, das Nutzungsvolumen stark ansteigen kann und der Gesamtverbrauch an Ressourcen am Ende steigt statt zu sinken.

Die Attraktivität von Kimi K3 ergibt sich aus der Kombination von niedrigen Kosten und hoher Leistung. Aus den veröffentlichten Preisen geht hervor, dass der Preis für Cache-Treffer-Eingaben 0,3 USD pro Million Token und der Ausgabepreis 15 USD pro Million Token beträgt. Die vollständigen Gewichtungen sollen am 27. Juli veröffentlicht werden, mit dem Ziel, langfristige Agentenarbeiten zu unterstützen.

Citi geht davon aus, dass Preissenkungen bei Modellen die Hardware-Nachfrage nicht automatisch verringern. Im Gegenteil, niedrige Kosten könnten die Bereitschaft von Entwicklern und Unternehmen erhöhen, Modelle aufzurufen, und den Einsatz von mehr KI-Agenten vorantreiben. Agentenaufgaben sind keine einmaligen Fragen und Antworten, sondern generieren, lesen und verarbeiten kontinuierlich Token in fortlaufenden Aufgaben. Die steigende Anzahl von Aufrufen und die Länge der Aufgaben führen dazu, dass der Rückgang der Stückkosten wieder in einen Anstieg des Gesamtressourcenverbrauchs umgewandelt wird.

Daher liegt der Einfluss von Kimi K3 auf die Halbleiterkette nicht hauptsächlich darin, ob ein einzelner Aufruf günstiger ist, sondern darin, ob das gesamte Token-Volumen wächst. Genau das ist der Grund, warum Citi optimistisch in Bezug auf die Nachfrage nach DDR5 und eSSD in Servern ist.

02

Langkontext-Inferenz überträgt den Druck auf den Speicher

Kimi K3 nutzt drei Schlüsseltechnologien: Kimi Delta Attention, Attention Residuals und Stable LatentMoE. Kimi Delta Attention senkt die Kosten für Kontextfenster mit 1 Million Token, Attention Residuals dient der selektiven Abfrage von Repräsentationen zwischen verschiedenen Tiefeebenen des Modells, und Stable LatentMoE erhöht den Grad der Verdünnung, sodass jeder Token nur 16 von 896 Experten aktiviert.

Laut den technischen Unterlagen von Moonshot AI erreicht die Erweiterungseffizienz von Kimi K3 mit dieser Architektur das 2,5-fache von K2. Hohe Verdünnung und Langkontext-Fähigkeit sind wichtige Grundlagen für die Senkung der Betriebskosten.

Citi betont jedoch, dass dies nicht bedeutet, dass der Ressourcendruck auf der Inferenzebene verschwunden ist. Kimi K3 ist immer noch keine leichtgewichtige Bereitstellungslösung; für den Betrieb sind Multi-Node-Cluster erforderlich, und die Konfiguration von Superknoten umfasst mehr als 64 GPUs. Was noch wichtiger ist: Langkontext- und Agentenaufgaben erhöhen die Auslastung des KV-Caches und damit die Speicherbelastung auf der Inferenzebene.

Die Nachfrage nach KV-Cache hängt direkt mit DDR5 und eSSD in Servern zusammen. DDR5 übernimmt den Hochfrequenz-Datenzugriff, und eSSD profitiert von größeren Anforderungen an Cache und Datenspeicher. Für Speicherhersteller ist die entscheidende Variable nicht, ob ein einzelnes Modell Rechenleistung spart, sondern wie oft das Modell nach Preissenkungen aufgerufen wird, wie viele Token bei jedem Aufruf generiert werden und wie lang die Agentenaufgabenkette wird.

03

Aufholende Modelle erhöhen die Rechenleistungsschwelle

Die Schlussfolgerung von Bank of America Securities stimmt mit der von Citi überein, konzentriert sich jedoch stärker auf GPU und KI-Infrastruktur. Laut Vivek Arya werden stärkere chinesische Open-Source-Modelle die US-KI-Giganten nicht unbedingt dazu veranlassen, ihre Investitionen in Rechenleistung zu kürzen. Im Gegenteil, die Verringerung der Modelllücke wird die Kosten für die Marktführer erhöhen, ihre Vorreiterrolle zu behaupten.

Bank of America Securities weist darauf hin, dass Marktführer wie OpenAI, Anthropic und Google, wenn Open-Source-Modelle kontinuierlich aufholen, auf größere Trainingsumfänge, mehr Schleifen für verstärkendes Lernen und synthetische Daten, schwerere Inferenz bei der Testzeit und schnellere Produktveröffentlichungsrhythmen setzen müssen, um ihre Differenzierung zu wahren.

Diese Logik hängt nicht davon ab, welches Modell kurzfristig führend ist. Die Ranglisten großer Modelle können sich schnell ändern, aber Unternehmen kaufen tatsächlich stabile, niedrig-latenz, hochverfügbare KI-Ausgaben und niedrigere Kosten pro effektiver Einheit. Wenn die Fähigkeiten der Modelle konvergieren, wird der Wettbewerbsdruck auf die zugrundeliegende Infrastruktur übertragen, einschließlich GPU, HBM, Hochgeschwindigkeitsnetzwerken und Inferenzsystemen.

Daher ist Bank of America Securities der Ansicht, dass das Auftauchen von Modellen wie Kimi K3 nicht einfach als „Modelle sind effizienter, also weniger Chips“ interpretiert werden sollte. Der realistischere Weg ist, dass der Modellwettbewerb sich verschärft und Marktführer weiterhin in Rechenleistung investieren, um ihren Vorsprung zu wahren.

04

Die MoE-Architektur verändert Engpässe, Grafikspeicher und Interkonnektivität werden wichtiger

Die Nutzung der MoE-Architektur in Kimi K3 bedeutet, dass die Gesamtzahl der Parameter und die tatsächlich bei jeder Inferenz aktivierten Parameter getrennt werden können. Diese Veränderung verringert einen Teil des Rechenaufwands, verschiebt jedoch die Engpässe der Infrastruktur von der reinen Rechenleistung hin zu Grafikspeicherzugriff, Expertenrouting, Antwortlatenz und Interkonnektivitätsfähigkeit.

Bank of America Securities betont, dass die MoE-Inferenz erfordert, dass das System Daten effizienter transportiert, Expertenmodule plant und größere Rechencluster verbindet. Nvidia gibt an, dass moderne MoE-Inferenz größere GPU-Domänen erfordert. Ihre Berechnungen zeigen, dass die Leistung pro Watt von GB300 NVL72 bei führenden Open-Source-Modellen bis zum 25-fachen der Hopper-Plattform erreichen kann.

Tests von CoreWeave mit Kimi K2.6 zeigen ebenfalls, dass Open-Source-MoE-Modelle, auch wenn sie bei jeder Inferenz nur einen Teil der Parameter aktivieren, eine optimierte Nvidia GB300/GB200 NVL72-Infrastruktur benötigen, um ihre Vorreiterrolle bei Geschwindigkeit und Kosten-Leistungs-Verhältnis zu behaupten.

Das bedeutet, dass Modellgewichte allmählich kommerzialisiert werden können, aber die GPU, der Hochbandbreitenspeicher, die Netzwerkinterkonnektivität und die Inferenzsysteme, die für den Betrieb der Modelle erforderlich sind, ihren Wert nicht verlieren werden. Im Gegenteil, mit dem Wachstum des Modellaufrufvolumens könnten diese Segmente zu Orten mit stärker konzentriertem Wettbewerb werden.

05

Die Nutzung von Token expandiert weiterhin, und die Nachfrageseite hat ihren Höhepunkt noch nicht erreicht

Bank of America Securities zitiert außerdem Daten von OpenRouter, die zeigen, dass das Volumen der Modellaufrufe weiterhin schnell steigt. Als Drittanbieter-API-Plattform, die mehrere Modelllabore verbindet, wächst die Token-Nutzung auf OpenRouter kontinuierlich, und die Token-Nutzung von Modellen chinesischer KI-Labore hat die von Modellen nicht-chinesischer Labore bereits übertroffen.

Diese Daten stellen nicht direkt alle Unternehmens- und Verbraucherszenarien dar, aber sie zeigen zumindest, dass sich die Auswahl der Entwickler im offenen Modellökosystem ändert. Preissenkungen bei Modellen und Verbesserungen ihrer Fähigkeiten könnten das Aufrufvolumen weiter ausweiten, anstatt durch die Effizienzsteigerung eines einzelnen Modells aufgehoben zu werden.

Die kostenpflichtige Nutzung durch Unternehmen steigt ebenfalls. Laut Daten von Ramp haben bis Juni 2026 etwa 55 % der US-Unternehmen kostenpflichtige Abonnements für KI-Modelle, Plattformen oder Tools abgeschlossen, was über der Schätzung von 21 % aus der BTOS-Umfrage des US Census Bureau liegt. Nach Modellen betrachtet liegt die Adoptionsrate bei Unternehmen für Anthropic bei 42,4 % und für OpenAI bei 39,5 %.

Allerdings sind die KI-Ausgaben weiterhin stark konzentriert. Die oberen 1 % der Unternehmenskunden geben durchschnittlich etwa 4833 USD pro Mitarbeiter und Monat für KI aus, die oberen 10 % 516 USD, und der Gesamtmedian beträgt nur 11 USD. Die Abonnementrate in der Technologie- und Medienbranche erreicht 79,8 %, die Adoptionsrate bei Großunternehmen 65,5 %, was über den 61,3 % von mittleren Unternehmen und 48,7 % von kleinen Unternehmen liegt.

Diese Datengruppe stützt die Schlussfolgerung: Die Nutzung von KI befindet sich noch im Verbreitungsprozess. Wenn günstigere Modelle die Eintrittsschwelle senken, könnte die zukünftige zusätzliche Nachfrage von mehr Unternehmen, mehr Entwicklern und mehr Agentenanwendungen stammen.

06

Von „weniger Rechenleistung“ zu „mehr Arbeitslasten“

Die gemeinsame Schlussfolgerung von Citi und Bank of America Securities ist, dass die Bedeutung von Kimi K3 nicht darin liegt, ob ein einzelnes Modell die Kosten pro Inferenz senkt, sondern darin, ob niedrige Kosten größere Arbeitslasten freisetzen.

Für Citi sind die direktesten Nutznießer DDR5 und eSSD in Servern. Langkontext, KV-Cache und Agentenaufgaben erhöhen die Anforderungen an Speicherzugriff und -speicherung. Für Bank of America Securities sind GPU, HBM, Hochgeschwindigkeitsnetzwerke und Inferenzsysteme wichtiger, da der Modellwettbewerb Marktführer dazu zwingt, weiterhin in die Infrastruktur zu investieren.

Bank of America Securities erwähnt außerdem, dass „45-nm-Open-Source-EDA“ im Zusammenhang mit Kimi K3 nicht einfach als Ersatz für kommerzielles EDA interpretiert werden sollte. Im Gegenteil, dies zeigt, dass das Chip-Design weiterhin auf EDA-Tools angewiesen ist. Bei fortschrittlichen Fertigungsverfahren bleiben kommerzielle EDA-Hersteller wie Cadence und Synopsys in einer Schlüsselposition.

Dieser Artikel stammt aus dem WeChat-Offiziellen Konto „Hard AI“, Autor: Zhao Ying, Redaktion: Hard AI, und wird mit Genehmigung von 36Kr veröffentlicht.