Innerhalb von weniger als einem halben Jahr wurden fast 2 Milliarden Yuan an Finanzmitteln aufgenommen. Ist die spärliche Rechenleistung tatsächlich so viel wert?

Kürzlich hat Moore Core AI (im Folgenden als „Moore Core“ bezeichnet), das sich auf das Ökosystem für spärliches Rechnen konzentriert, den Abschluss einer C+-Finanzierungsrunde in Höhe von fast 1 Milliarde Yuan bekanntgegeben. Dies liegt nur etwa 5 Monate nach der Umsetzung der vorherigen Finanzierungsrunde von ebenfalls fast 1 Milliarde Yuan.

In weniger als einem halben Jahr hat das Unternehmen zwei Finanzierungsrunden mit insgesamt fast 2 Milliarden Yuan abgeschlossen. Im Mai erklärte Moore Core, dass die Finanzierung für die Massenproduktion neuer Generation von Rechenkarten und die Erweiterung des Rechenleistungsnetzwerks verwendet wird. Im November werden die neuen Mittel für das Software- und Hardware-Upgrade von Inferenzchips, die Vorentwicklung der nächsten Chipgeneration sowie die Zusammenarbeit in Forschung und Lehre im Bereich des spärlichen Rechnens eingesetzt.

Die Beträge der beiden Finanzierungsrunden sind ähnlich: Bei der einen geht es darum, die Rechenkarten herzustellen und an mehr Kunden auszuliefern, bei der anderen werden die Probleme, die Kunden bei der Bereitstellung haben, in die Entwicklung der nächsten Produktgeneration einfließen. Für Moore Core besteht die Herausforderung möglicherweise nicht nur darin, Chips herzustellen – der entscheidende Punkt ist, Kunden dazu zu bewegen, für ein Soft- und Hardwaresystem zu zahlen, das sich von den bestehenden Lösungen unterscheidet.

01. Auf was setzen die Kapitalgeber?

Moore Core wurde 2018 gegründet, seine Finanzierungsgeschichte geht bis März 2020 zurück, und unter seinen frühen Investoren waren bereits industrielle Kapitalgeber vertreten.

Die damalige Angel-Runde mit einem Volumen von fast zehn Millionen US-Dollar wurde von Kaitai Ventures angeführt, gefolgt von Chuangxiang Fund und Cloud Angel Fund.

Danach durchlief Moore Core weitere Finanzierungsrunden. Im Januar 2021 erhielt das Unternehmen eine strategische Investition von Inspur Yunhai Fund, während der Altaktionär Kaitai Ventures weiter investierte. Inspur ist ein Serveranbieter, und KI-Server gehören zu seinen Geschäftsbereichen.

Von 2021 bis 2024 veröffentlichte Moore Core nacheinander eine Pre-A-Runde von 100 Millionen Yuan, eine A-Runde von mehreren hundert Millionen Yuan sowie eine A+- und eine B-Runde von jeweils mehreren hundert Millionen Yuan. Die A+- und B-Runde wurden im April 2024 gemeinsam bekanntgegeben, die Umsetzung erfolgte jedoch bereits im vorherigen halben Jahr.

An der im Mai dieses Jahres bekanntgegebenen C-Runde der Finanzierung nahmen Institutionen wie Shenzhen Venture Capital, Greater Bay Area Common Home, Leading Capital und Yunsheng Capital teil, während Altaktionäre wie Kaitai Ventures, Shengjing Jiacheng und Rock Mountain Technology weiter investierten. An der im November bekanntgegebenen C+-Runde sind Investoren wie Ren'ai Capital, Haitang Fund, Dongheng Petroleum, Biqiu Capital, Paila Capital und Zhongcai Capital beteiligt.

Der Hintergrund des Gründungsteams ist möglicherweise einer der Gründe für die Anerkennung durch die Kapitalgeber. Die Erfahrungen des Teams decken Chiparchitektur, Algorithmen und technische Entwicklung ab. Der Gründer und CEO Wang Wei war früher bei Qualcomm und Intel tätig; der Mitbegründer und Chefwissenschaftler Yan Enxun hat einen Doktortitel im Bereich maschinelles Lernen von der Carnegie Mellon University und arbeitete früher bei Google und Microsoft Research; der Mitbegründer Lu Yong war bei SK Hynix und Marvell im Bereich Chipdesign tätig. Die drei Personen decken unterschiedliche Gliederungen derselben Produktkette ab: Algorithmen müssen die im Modell einsparbaren Rechenoperationen identifizieren, Chips müssen diese Operationen überspringen, und die Toolchain muss die reibungslose Bereitstellung der Modelle der Kunden ermöglichen.

Die von dem Unternehmen veröffentlichten Verwendungszwecke der Mittel folgen ebenfalls dem Weg von der Produktentwicklung bis zur Kommerzialisierung. Im Jahr 2021 erklärte Wang Wei, dass die 100-Millionen-Yuan-Pre-A-Runde für die Produktentwicklung und die Erschließung des inländischen Marktes verwendet wird. Im Jahr 2022 flossen die Mittel der A-Runde in Höhe von mehreren hundert Millionen Yuan in die Massenproduktion des ersten Chips und den Aufbau des Ökosystems für spärliches Rechnen. Bei der A+- und B-Runde kombinierte das Unternehmen die Entwicklung der zweiten Generation von KI-Chips, die Markterschließung und den Aufbau des Ökosystems. Im Mai dieses Jahres ist der Verwendungszweck der eingeworbenen Mittel bereits spezifisch auf die Massenproduktion und Kommerzialisierung der neuen Generation von SparsePrime-Rechenkarten sowie die Erweiterung des Rechenleistungsnetzwerks ausgerichtet. Der Verwendungszweck der Mittel im November erstreckt sich nun auf die Vorentwicklung der nächsten Chipgeneration.

Die Investitionen der Kapitalgeber dienen der Bezahlung der Zukunft des Unternehmens, und die Frage, auf die sie immer eine Antwort geben müssen, lautet: Was ist eigentlich der Vorteil des Weges des spärlichen Rechnens?

02. Weniger Rechenoperationen – bedeutet das auch niedrigere Kosten?

Im Gegensatz zu allgemein einsetzbaren GPUs, die verschiedene Aufgaben wie Training, Inferenz und wissenschaftliches Rechnen übernehmen können, hat Moore Core den Weg gewählt, sich auf spärliches Rechnen zu konzentrieren und sich auf KI-Inferenz zu spezialisieren. Das Produktkonzept sieht vor, zunächst unnötige Rechenoperationen durch Algorithmen zu erkennen und zu reduzieren, bevor die dazugehörige Software und die Chips diese optimierten Aufgaben ausführen.

Spärliches Rechnen ist keine Fähigkeit, die nur spezialisierte Chips besitzen. NVIDIA unterstützt seit der A100 strukturelle Sparsität, indem die Anordnung der Daten eingeschränkt wird, sodass die Hardware einige Nullwert-Operationen überspringen kann. Die veröffentlichten Informationen zur Rubin-Architektur erläutern zudem die Unterstützung für Aktivierungssparsität in Aufmerksamkeits- und MLP-Modulen.

Im Gegensatz zur Ergänzung der Fähigkeiten bei allgemein einsetzbaren GPUs muss Moore Core, das sich auf spärliches Rechnen spezialisiert, seine Soft- und Hardwareplattform von Grund auf neu aufbauen.

Schon bei der B-Runde der Finanzierung listete das Unternehmen den Aufbau des Ökosystems als einen der Verwendungszwecke der Mittel auf. Guo Weijun, Vizepräsident der Marketingabteilung des Unternehmens, erwähnte in den Medien, dass Moore Core im August dieses Jahres das erste inländische Konsortium für Forschung und Lehre im Bereich des spärlichen Rechnens gegründet hat und bereits mehrere gemeinsame Projekte mit Hochschulen wie der Fudan-Universität, der Tsinghua-Universität und der Xi'an Jiaotong-Universität gestartet hat. Im Juni gab Guo Weijun bekannt, dass etwa 50 bis 60 Prozent der Mitarbeiter des Unternehmens in Software-bezogenen Bereichen tätig sind. Im September aktualisierte Moore Core das MACS-Softwaresystem und ergänzte Beispiele für die Bereitstellung von Modelldiensten sowie Funktionen zur Verwaltung von Cluster-Geräten.

KI-Bild

Moore Core hat derzeit Rechenkarten wie S4, S30 und S40 auf den Markt gebracht, die mit dem selbst entwickelten Antoum-Chip ausgestattet sind. S4, S30 und S40 integrieren jeweils einen, drei und vier Chips und richten sich an Bereitstellungsanforderungen unterschiedlicher Größenordnung. Um diese Hardware herum bietet Moore Core auch Tools für die Modellsparsifizierung, Kompilierung und Ausführung sowie dazugehörige Software für die Geräteüberwachung und Cluster-Verwaltung an, um Kunden bei der Migration ihrer bestehenden Modelle auf die Moore Core-Rechenkarten sowie bei der Bereitstellung und nachfolgenden Wartung zu unterstützen.

Moore Core plant, vor Ende 2026 die neue Generation von Platinen SP200 auf den Markt zu bringen und das aktualisierte Software-Stack SECA zu veröffentlichen. Nach den neuesten Angaben des Unternehmens wird SECA die Operator-Bibliothek, die Kompilierung und die Fähigkeiten zur Soft- und Hardware-Koordination im Rahmen der spärlichen Architektur vervollständigen. Später werden zudem eine dazugehörige MaaS-Plattform und Verwaltungstools für die Anpassung von Modellframeworks eingeführt, um die Hürden für Kunden bei der Bereitstellung und Nutzung von spärlicher Rechenleistung weiter zu senken.

Nach den veröffentlichten Angaben sind Inferenzcluster auf Basis der selbst entwickelten Chips bereits in Regionen wie Nordwest-, Südwest-, Ost- und Nordchina bereitgestellt worden, und es werden Kooperationen mit Telekommunikationsbetreibern durchgeführt. Die Bereitstellung der Cluster zeigt den Fortschritt der Produkte bei der Umsetzung in tatsächlichen Geschäftsvorgängen, aber die Bereitstellungsgröße allein reicht nicht aus, um die Gerätenutzungsrate, die Einnahmen aus Bestellungen oder die Kostenvorteile für Kunden zu beurteilen.

Für Kunden mit bestehenden GPU-Systemen bedeutet der Wechsel der Lösung eine erneute Anpassung, Prüfung und Wartung. Die durch spärliche Chips eingesparten Betriebskosten müssen diese zusätzlichen Aufwendungen decken, damit die Kunden den Anreiz haben, zu migrieren oder weitere Einkäufe zu tätigen. Bei demselben Modell, gleicher Wirkung und ähnlicher Last darf man nicht nur die Spitzenrechenleistung oder einzelne Tests betrachten.

Moore Core hat bereits die Mittel erhalten, um weiter zu investieren. Als Nächstes wird es davon abhängen, ob die neue Generation von Platinen wie geplant auf den Markt gebracht werden kann, die Software mit den Veränderungen der Modelle Schritt hält und die Kunden weiterhin einkaufen – insbesondere vor dem Hintergrund, dass allgemein einsetzbare GPUs ihre Fähigkeiten im Bereich des spärlichen Rechnens bereits ergänzt haben. Ob Moore Core die umfassenden Nutzungskosten von GPUs in tatsächlichen Geschäftsvorgängen dauerhaft unterbieten kann, wird darüber entscheiden, ob es von Nischenszenarien zu einem großflächigen Markt vordringen kann.

Der vorliegende Artikel stammt aus dem WeChat-Offiziellen Konto