Kimi K3 Open Source: Die Schwelle und die Dividende von 2,8 Billionen Parametern

Am 27. Juli hat Moonshot die vollständigen Gewichte von K3 auf Hugging Face veröffentlicht. Unter der Modified-MIT-Lizenz, mit 2,8 Billionen Parametern, löste dies einen Begeisterungssturm in der Öffentlichkeit aus. Die begeisterten Menschen übersahen ein Detail: Am 20. Juli hatte das offizielle Team gerade das Abonnement neuer Endnutzer wegen knapper Rechenleistung ausgesetzt. Der sprunghafte Anstieg der Endnutzer hat das Cluster überlastet, gleichzeitig wurde aber das weltweit größte Open-Source-Gewicht veröffentlicht.

Die beiden Ereignisse scheinen widersprüchlich zu sein, entsprechen aber in Wirklichkeit zwei völlig unterschiedlichen Geschäftslinien. Für Endnutzer wird der API-Aufruf verkauft, während das Open-Source-Angebot das Recht zur Umgestaltung der Industriekette vermarktet.

Öffnet man die Kimi K3-Seite auf Hugging Face, liegen dort 594 GB große Gewichtsdateien. Die meisten Menschen schließen den Tab leise und denken, dass dies sie nichts angeht. Aber die echten Käufer von K3 sind genau diejenigen, die es nicht ausführen können.

Wer kann 2,8 Billionen Parameter ausführen?

Zuerst zu den Hardware-Hürden. Nach der MXFP4-Quantisierung beträgt die Größe etwa 594 GB, man braucht 8 H100-Grafikkarten mit je 80 GB, um das Modell gerade noch in den Videospeicher zu laden. Bei der Inferenz werden KV-Cache und Aktivierungswerte den Videospeicher sprengen, in produktionsreifen Szenarien ist normalerweise ein Superknoten mit mehr als 64 H100-Grafikkarten erforderlich, die Hardwarekosten beginnen bei einer Million US-Dollar.

Eine einzelne RTX 4090 kann nicht einmal ein einziges Expertenmodul von K3 laden.

Die kleinste 7B-Version von Llama 4 kann auf einem Laptop ausgeführt werden, die 490B aktiven Parameter von DeepSeek V4 lassen sich mit einigen Consumer-Grafikkarten betreiben. Die 2,8 Billionen Parameter von K3 ziehen die Hürde direkt auf Rechenzentrumsniveau. Normale Menschen, kleine Teams und sogar die meisten mittelständischen Unternehmen werden davon ausgeschlossen.

Die vollständige Selbsthostung von K3 ist derzeit noch ein Spiel für führende Cloud-Anbieter und große wissenschaftliche Forschungseinrichtungen. Aber die Hauptakteure des Spiels sind nicht sie.

Cloud-Anbieter betreten zuerst den Markt, kleine B2B-Kunden erhalten die Vorteile

Die direkten Käufer sind Cloud-Anbieter und Softwaredienstleister, die letztendlichen Nutznießer sind kleine B2B-Kunden und spezialisierte Teams. Die Vorteile werden durch eine schichtweise Übertragung in der Industriekette verteilt, es handelt sich nicht um eine sofortige allgemeine Wohlfahrt.

Am Tag der Open-Source-Veröffentlichung kündigten ausländische Plattformen wie Together AI und Modal bereits die Integration am ersten Tag an. Im Inland ging es noch schneller: Tencent Cloud ADP, TokenHub, Alibaba Cloud Bailian, das Nationale Supercomputing-Internet und sogar OpenHubs von Zhidemai Technology haben sofort die Aufrufkanäle für K3 bereitgestellt. Sie müssen keine H100-Grafikkarten kaufen und kein Rechenzentrum mieten, Sie können das Grundmodell mit 2,8 Billionen Parametern direkt über den API-Aufruf des Cloud-Anbieters nutzen.

Kleine B2B-Kunden wechseln von "kann keine Grafikkarten leisten" zu "welchen Cloud-Anbieter wähle ich", wodurch sie über Verhandlungsmacht verfügen. Bisher bot nur das offizielle Moonshot-Team den API-Dienst für K3 an, die Preisgestaltung lag vollständig in der Hand des Anbieters; jetzt hosten mehrere Cloud-Anbieter das Modell gleichzeitig, was mehreren Lieferkanälen entspricht. Langfristig gesehen wird die Preisgestaltung nicht mehr von einem einzigen Anbieter festgelegt.

Die Modified-MIT-Lizenz ist ein weiterer Schlüssel. Sie erlaubt kommerzielle Nutzung, Modifikation und Weiterverbreitung und unterscheidet sich stark von der strengen Beschränkung der AGPL, die vorschreibt, dass alle Änderungen ebenfalls vollständig quelloffen gemacht werden müssen. Unternehmen können auf Basis von K3 geschlossene branchenspezifische angepasste Modelle erstellen, ohne ihren eigenen Geschäftscode offenlegen zu müssen. Ein geschlossener API-Dienst kann dieses Recht niemals gewähren.

Noch verborgener ist die MoE-Architektur. K3 verwendet eine spärliche Expertenarchitektur, die theoretisch eine selektive Destillation unterstützt. In Zukunft kann die Gemeinschaft nur die Teilmenge der häufig aktivierten Experten destillieren und ein "K3-Studentenmodell" erstellen, das auf einer einzelnen Grafikkarte ausgeführt werden kann. In einigen Monaten könnten Destillationsversionen mit 70B oder sogar 7B Parametern erscheinen. Dies ist nur eine industrielle Erwartung, die sich aus der offenen Architektur ergibt, und existiert heute noch nicht.

DeepSeek ist denselben Weg gegangen. Mit der offiziellen Version von V4 wurden die API-Kosten durch Spitzen-Tal-Preisgestaltung und die beiden Stufen Flash/Pro auf das Branchenminimum gedrückt. Der Preis für Eingaben ohne Cache-Treffer bei Flash beträgt 0,14 US-Dollar, die Pro-Version liegt ebenfalls weit unter dem Branchendurchschnitt.

Die zugrundeliegende Logik beider ist ganz einfach: Man tauscht offene Gewichte gegen die Größe des Ökosystems, verteilt die Stückkosten durch die Größe des Ökosystems und erzielt letztendlich Einnahmen durch API-Dienste und kommerzielle Lösungen. Es war nie das Ziel, Wohlfahrt zu betreiben und jedem die lokale Bereitstellung zu ermöglichen.

K3 wird den Preiskriegsweg von DeepSeek nicht vollständig nachahmen. DeepSeek hat durch extrem niedrige aktive Parameter eine maximale Kosteneffizienz erreicht, während K3 auf führende Leistung setzt, sodass die Kosten kurzfristig nicht auf das gleiche Niveau gedrückt werden können. Sein Wert liegt darin, dass das Recht zur Umgestaltung auf führendem Leistungsniveau nach unten verteilt wird.

Die Hardware-Hürde ist überhaupt nicht gesunken, gesunken ist nur die Umgestaltungshürde. Diese Vorteile werden nur durch schichtweise Übertragung in der Industriekette verteilt: Cloud-Anbieter übernehmen die Rechenlast, Fine-Tuning-Teams decken spezifische Szenarien ab, das Destillationsökosystem senkt die Hürden, und die Vorteile erreichen letztendlich die kleinen B2B-Kunden. Einzelne Entwickler können heute noch nicht davon profitieren, die Spielregeln haben sich bereits geändert.

Das Recht zur Umgestaltung ist wichtiger als der Download-Button

Was haben kleine B2B-Kunden zusätzlich, wenn man geschlossene und offene Modelle vergleicht? Bei geschlossenen Modellen führt nur der Weg über APIs, die Preise werden von großen Unternehmen festgelegt, Anpassungen erfolgen nur durch Prompts, und die Obergrenze ist offensichtlich. Bei Open-Source-Modellen gibt es vier Wege: API, Fine-Tuning, Destillation und Selbsthostung. Sie können den Weg wählen, der am besten zu Ihrem Budget und Ihren technischen Fähigkeiten passt.

Seien Sie nicht zu aufgeregt. Der offizielle Preis der K3-API beträgt 3 US-Dollar für Eingaben und 15 US-Dollar für Ausgaben, bei Cache-Treffern sind es nur 0,30 US-Dollar. Moonshot gibt an, dass die Cache-Trefferquote in Programmierszenarien über 90 % liegen kann, was bedeutet, dass die tatsächlichen Eingabekosten für stark genutzte Nutzer etwa 1/10 des Listenpreises betragen. Für kleine B2B-Kunden mit häufigen Aufrufen ist dies weder ein extrem niedriger noch ein extrem hoher Preis. Moonshot selbst leidet unter knapper Rechenleistung, die API-Versorgung ist noch nicht stabil, und bei den Preisen der Cloud-Anbieter für das Hosten gibt es noch keine großangelegten Preisnachlässe durch Wettbewerb.

Die Open-Source-Veröffentlichung von K3 entspricht einem Terminkontrakt. Seine Erfüllung hängt davon ab, dass die Open-Source-Lizenz weiterhin liberal bleibt, die Rechenleistung der Cloud-Anbieter ausreichend ist und das Gemeinschaftsökosystem aktiv bleibt. Wenn später im Ausland Beschränkungen für chinesische Open-Source-Modelle eingeführt werden, wird die Übertragung durch ausländisches Hosting und das Ökosystem zuerst behindert. Wenn sich ein beliebiger Abschnitt verschärft, schrumpft die Wahlmöglichkeit von kleinen und mittleren Unternehmen schnell.

Die 2,8 Billionen Parameter sind an sich nicht für kleine Teams vorgesehen, aber das Ökosystem, das darauf aufbaut, wird letztendlich auch kleinen Teams zugute kommen. Auch wenn es heute noch nicht realisiert werden kann, ist das Recht zur Umgestaltung bereits verteilt worden.

Die eigentliche Veränderung liegt darin, dass die Regeln selbst geändert wurden. Früher hielten geschlossene große Unternehmen das Modell in der einen Hand und legten die Preise in der anderen Hand fest, sodass Sie nicht einmal das Recht auf Verhandlung und Anpassung hatten. Jetzt legt K3 das Recht zur Modellumgestaltung auf den Tisch. Selbst wenn Sie die Eintrittschips vorübergehend nicht leisten können, liegt die Preisgestaltung für dieses Spiel nicht mehr nur in der Hand weniger Unternehmen.

Diejenigen, die es nicht ausführen können, sind die letztendlichen Käufer.

Dieser Artikel stammt aus dem WeChat-Offiziellen Konto "AI widerspricht dem Mainstream", Autor: AI widerspricht dem Mainstream, veröffentlicht mit Genehmigung von 36Kr.