Gerade hat Cambricon den höchsten Sitz bei PyTorch errungen und sitzt nun gemeinsam mit NVIDIA am selben Tisch.
Gerade eben ist Cambricon offiziell das Platin-Mitglied der höchsten Stufe der PyTorch Foundation!
Ein chinesisches KI-Chip-Unternehmen hat einen Sitz im Rat der PyTorch Foundation erhalten.
In dem Raum, der die Richtung für globale KI-Entwicklungsframeworks vorgibt, gibt es nun einen weiteren chinesischen Stuhl.
Und dieser Stuhl wird von einem chinesischen Chiphersteller besetzt.
Im Mai dieses Jahres wurde Alibaba Cloud gerade erst Platin-Mitglied der PyTorch Foundation. Diesmal ist es Cambricon.
In der stark konzentrierten globalen KI-Chip-Landschaft ist ein chinesisches Chip-Unternehmen in die Entscheidungsebene der weltweit wichtigsten Open-Source-KI-Gemeinschaft eingetreten.
Dieses Ereignis verdient mehr Aufmerksamkeit.
Was bedeutet das Wort „Platin“?
Viele Menschen kennen PyTorch, verstehen aber möglicherweise die PyTorch Foundation nicht.
Die PyTorch Foundation ist eine gemeinschaftsgetriebene Open-Source-KI-Organisation unter der Linux Foundation, die eine Reihe von Projekten wie PyTorch, vLLM, DeepSpeed und Ray verwaltet.
GPT, DeepSeek, Qwen, GLM haben unterschiedliche Namen, aber wenn man tiefer blickt, basieren viele von ihnen auf derselben Infrastruktur: Die Entwicklung ist ohne PyTorch nicht möglich, und bei der Bereitstellung laufen sie zunehmend auf Inferenz-Engines wie vLLM.
Bis 2026 hat die PyTorch-Gemeinschaft 12.000 Mitwirkende aus über 2.000 Einrichtungen versammelt. Dieses Tool ist nicht das Produkt eines einzelnen Unternehmens, sondern das Fundament der gesamten KI-Branche.
Der Rat der PyTorch Foundation ist die Gruppe, die die Pläne für dieses Fundament entwirft.
Die Ratsmitglieder diskutieren keine abstrakten technischen Visionen. Sie entscheiden, wen PyTorch als Nächstes vorrangig unterstützt, wie Geräteschnittstellen abstrahiert werden, welche Funktionen in den Hauptzweig aufgenommen werden und welche den Herstellern zur eigenständigen Lösung überlassen bleiben.
Bei der Gründung der Stiftung im Jahr 2022 waren die Gründungsmitglieder des Rates ausschließlich globale Giganten: Meta, AMD, AWS, Google Cloud, Microsoft und NVIDIA.
Der Platin-Sitz, den Cambricon jetzt erhalten hat, ist die höchste Stufe derselben Kategorie.
Wer im Rat sitzt, beantwortet für globale Entwickler eine sehr konkrete Frage: Muss der gesamte Code neu geschrieben werden, wenn man einen Chip austauscht?
Diese Frage wird chinesischen KI-Chips schon seit vielen Jahren gestellt. Aber für eine sehr lange Zeit waren wir nicht unter den Menschen, die diese Frage beantworteten.
Seit vielen Jahren sitzen chinesische KI-Chips im nachgelagerten Bereich
Um ehrlich zu sein, war die Rolle chinesischer KI-Chips im globalen Open-Source-Ökosystem lange Zeit die des „Anpassers“.
Was bedeutet Anpasser? Andere schreiben das Framework fertig, wir sorgen für Kompatibilität, ergänzen Operatoren und optimieren die Leistung, um sicherzustellen, dass der alte Code, den Entwickler geschrieben haben, auf unseren Chips laufen kann.
Diese Arbeit ist mühsam, anstrengend und unsichtbar. Wenn das Framework eine neue Version veröffentlicht, muss der nachgelagerte Bereich eine Runde folgen; wenn die eigene Hardware eine neue Generation erhält, muss der Software-Stack eine weitere Runde durchlaufen. Am Ende ist die Bewertung, die man dafür bekommt, normalerweise nur zwei Worte –
Funktionsfähig.
Funktionsfähig, aber nicht benutzerfreundlich. Läuft, aber mit Mühe.
Das ist der allgemeine Eindruck, den in den vergangenen Jahren heimische KI-Chips bei Entwicklern hinterlassen haben.
Und selbst wenn Sie Ihre Arbeit perfekt erledigen, führen Sie nur Bauarbeiten auf den Plänen durch, die andere entworfen haben. Wie das Framework gestaltet wird, wie Schnittstellen definiert werden, wer als Nächstes vorrangig unterstützt wird – all diese Dinge liegen nicht in Ihrer Verantwortung.
Cambricon hat einen anderen Weg gewählt.
Es verfolgt ein Prinzip namens Upstream First. Einfach ausgedrückt bedeutet das: Änderungen werden zuerst in den öffentlichen Hauptzweig von PyTorch eingereicht, anstatt heimlich eine Kopie in einem eigenen privaten Zweig zu behalten.
Dieser Weg ist viel langsamer.
Wenn Sie Code in den Hauptzweig anderer einreichen, müssen Sie die Gemeinschaftsprüfung durchlaufen, Kritikpunkte akzeptieren und Kompromisse mit den Anforderungen verschiedener Hardware eingehen. Es ist üblich, Monate lang an einem Patch zu arbeiten.
Im Vergleich dazu ist es viel einfacher, einen eigenen privaten Zweig zu erstellen – nach der Änderung kann er sofort verwendet werden. Der Preis dafür ist jedoch, dass jedes Mal, wenn sich der PyTorch-Oberlauf ändert, Ihre eigene Kopie erneut angepasst werden muss, sodass Sie immer einen Schritt hinterherhinken.
Cambricon hat den schwierigeren Weg gewählt.
In den letzten Jahren hat der von Cambricon eingereichte Code sieben Hauptmodule von PyTorch abgedeckt: Torch-Compiler (torch.compile), Eager-Modus-Operatoren, Geräte-Laufzeit, verteiltes Rechnen, automatische gemischte Genauigkeit, Datenlader (Dataloader) und Profiler für Leistungsanalyse.
Einfach ausgedrückt geht es darum, wie Modelle kompiliert werden, wie Daten eingespeist werden, wie gemischte Genauigkeit den Grafikspeicher spart, wie mehrere Karten miteinander kommunizieren und wie Leistungsengpässe erkannt und behoben werden.
Es handelt sich nicht um „Kompatibilität“, sondern um „gemeinsame Entwicklung“. Der Unterschied besteht darin, dass erstere Patches auf dem Code anderer anbringt, während letztere an der Erstellung des Codes selbst beteiligt ist.
Gleichzeitig hat Cambricon auch die Arbeit an der vLLM-Linie synchron vorangetrieben.
Es arbeitet eng mit der vLLM-Gemeinschaft zusammen, um beliebte Open-Source-Großmodelle wie DeepSeek-V4 und GLM-5 für eine Day-0-Anpassung zu optimieren – am Tag der Veröffentlichung des Modells kann es bereits auf Cambricon-Karten laufen.
Für Teams, die ihre Produkte eilig veröffentlichen, macht dieser Unterschied von drei Monaten oft das Überleben eines Produktfensters aus.
Die beiden Personen, die in den Rat eingetreten sind, sind beide Code-Entwickler
Im Allgemeinen entsenden Unternehmen, die einer Stiftung beitreten, Geschäftsleute oder Führungskräfte. Aber diesmal ist es bei Cambricon anders.
Wang Jin, Senior Director des KI-Frameworks bei Cambricon, vertritt Cambricon im Rat der PyTorch Foundation. Sein Team konzentriert sich auf die Softwareunterstützung für effiziente Inferenz und das Training groß angelegter Modelle, seine Geschäftsszenarien umfassen große Sprachmodelle, Suchanzeigen und Empfehlungen sowie verstärkendes Lernen, und seine Kunden stammen aus der Internet- und Finanzbranche.
Zhu Jing, Kernwart von PyTorch bei Cambricon, ist in den Technischen Beratungsausschuss (Technical Advisory Council) der Stiftung eingetreten. Seine Arbeit ist näher an den Entwicklern an der Frontlinie – er baut die Torch-MLU-Erweiterung um den Backend-Integrationsmechanismus PrivateUse1 von PyTorch herum, sodass Benutzer auf Cambricon-Produkten ein natives PyTorch-Entwicklungserlebnis erhalten.
Zwei Sitze, einer in der Entscheidungsebene, einer in der technischen Ebene: Cambricon will nicht nur „von PyTorch unterstützt werden“, sondern mitentscheiden, wie PyTorch alle unterstützt.
Die Migrationskosten sind die eigentliche Hürde für Hardware
Elton Gong, Vice President of Software Engineering bei Cambricon, erklärte: „Einheitliche Framework-Schnittstellen bedeuten für Entwickler niedrigere Migrationskosten sowie konsistentere Tools und ein einheitlicheres Entwicklungserlebnis. Für PyTorch bedeutet eine allgemeinere Geräteabstraktion weniger nachgelagerte Zweige und eine nachhaltigere Wartung.“
Er sagte, dass das Unternehmen nicht nur sicherstellen will, dass Cambricon-Produkte PyTorch unterstützen, sondern durch kontinuierliche gemeinsame Entwicklung des Hauptzweigs PyTorch dabei unterstützen will, mehrere Geräte-Backends besser zu unterstützen, „sodass PyTorch auf einer breiteren Palette von Hardwareplattformen ein natives, sofort einsatzbereites Entwicklungserlebnis bietet“.
Diese Rechnung ist der Kern des Hardware-Wettbewerbs.
Wenn Entwickler die Hardware wechseln, fürchten sie sich am meisten davor, den Code neu schreiben, die Toolchain neu lernen und die Leistung neu optimieren zu müssen. Allein der Gedanke daran ist lästig. Das Ergebnis ist, dass niemand wechseln will und niemand es wagt, zu wechseln.
Wenn Cambricon also Code in den Hauptzweig von PyTorch einreicht, hilft es im Wesentlichen, diesen Bereich einheitlicher zu gestalten – so einheitlich, dass der Wechsel der Hardware wie der Wechsel eines Geräts aussieht und nicht wie der Wechsel einer Programmiersprache.
Die Aussage von Mark Collier, Geschäftsführer der PyTorch Foundation, bestätigt dies: „Jedes KI-Beschleuniger, das eine groß angelegte Anwendung und Erfolg erreichen will, muss den gesamten Lebenszyklus der KI-Entwicklung abdecken – von der Erstellung und Optimierung von Modellen mit PyTorch bis zur effizienten Bereitstellung und Bereitstellung von Diensten mithilfe von vLLM.“
Er erwähnte, dass Cambricon kontinuierlich Beiträge zur Oberlauf-Gemeinschaft leistet und auch die Anwendung von vLLM auf Cambricon-Hardware vorantreibt, und begrüßte es in der Stiftung.
Von „Wir unterstützen es auch“
Zu „Wir haben einen Anteil daran“
Der Beitritt von Cambricon zur PyTorch Foundation ist keine einfache Änderung des Mitgliedsstatus.
Es ist ein markanter Meilenstein, an dem Cambricon von einem „heimischen KI-Chiphersteller“ zu einem „Teilnehmer am globalen Mainstream-KI-Software-Ökosystem“ wird.
Cambricon wurde 2016 gegründet und stellt seit zehn Jahren Chips her. In diesen zehn Jahren wurden seine Produkte in Szenarien wie intelligente Konversationen, Agenten-KI, Suchanzeigen und Empfehlungen sowie Audio- und Videogenerierung groß angelegt kommerziell eingesetzt.
Und der Aufbau des Software-Ökosystems – Upstream First, die Beiträge zu sieben Hauptmodulen, Day-0-Anpassung, die zwei Personen im Rat und im Technischen Beratungsausschuss – all diese Akkumulationen zusammen haben Cambricon eine Eintrittskarte verschafft: Nicht um die Regeln anderer anzupassen, sondern um an der Gestaltung der Regeln teilzunehmen.
In Zukunft wird Cambricon seinen Fokus auf die Optimierung der Kompilierungsinfrastruktur, die Verbesserung der CI/CD-Fähigkeiten und die geräteübergreifende Unterstützung für domänenspezifische Bibliotheken im PyTorch-Bereich legen.
Zurück zum größeren Bild: Der Wert chinesischer KI-Chips für die globale Open-Source-Gemeinschaft ändert sich gerade von „Wir unterstützen PyTorch auch“ zu „Die Mehrgeräte-Funktionalität von PyTorch hat unseren Anteil“.
Chinesische KI-Chips haben nun ihre Vertreter am Verhandlungstisch.
Quelle: https://mp.weixin.qq.com/s/ktALePb6BEXfvmsDgZCn9w
Dieser Artikel stammt aus dem WeChat-Offiziellen Konto „Neue Intelligenz“, Autor: ASI Offenbarung, Redakteur: Solomon, von 36kr mit Genehmigung veröffentlicht.