HP kooperiert mit YuanKong Intelligence, einem Startup aus dem Ökosystem der Peking-Universität, und veröffentlicht ein Modell, das auch ohne Internetverbindung für wissenschaftliche Forschungszwecke betrieben werden kann | Frontlinie
Text von WANG Xinyi
Kürzlich hat MetaVoid Intelligence, ein Team von der Fakultät für Wissenschaftliche Intelligenz der Peking-Universität, sein seitenseitiges KI-Modell Boxer sowie die KI-Arbeitsplattform „MetaVoid AI Work“, die auch ohne Internetverbindung nutzbar ist, und den wissenschaftlichen Forschungs-Agent „MetaVoid AI for Science“ veröffentlicht. Am 3. September fand die Produktvorstellung für seitenseitige KI-Produkte von MetaVoid Intelligence in Shanghai statt. Nach Ansicht von PANG Dawei, CEO von MetaVoid Intelligence, gibt es bei cloudbasierten Großmodellen einige unumgängliche praktische Probleme, wie z. B. Datensicherheit, Token-Kosten und Stabilität. Um diese Probleme zu lösen, ist die Seitenseite eine physische Lösung.
Seitenseitige Intelligenz wird in diesem Jahr zu einem unumgänglichen Thema. Während die intelligente Dichte kleiner Modelle schnell steigt, rücken die Fähigkeiten und Anwendungen von Agent Harness immer mehr in den täglichen Arbeitsalltag, und die Rechenleistung von seitenseitigen Chips wächst weiter kontinuierlich.
Nach drei Jahren gesammelter Erfahrung im Bereich Agent hat MetaVoid Intelligence beschlossen, sich schrittweise auf die Seitenseiten-Spur zu verlagern. MetaVoid Intelligence wurde im Februar 2023 gegründet. Ausgehend von anfänglichen KI-Excel-Arbeitswerkzeugen und einer vollständigen Datenagenten-Plattform entwickelte sich das Unternehmen stetig weiter zu Claw-Produkten und heute zu KI-Arbeitsplattformen, seitenseitiger Intelligenz und wissenschaftlichen Forschungsagenten.
Boxer ist ein seitenseitiges Modell mit einer Größe von 35B, das hauptsächlich für Büroszenarien geeignet ist. Im selbst erstellten Bewertungsdatensatz WorkArena des Unternehmens erzielte Boxer-35B-A3B-v0-0819 den ersten Platz unter Modellen gleicher Größe und zeigte seine Vorteile bei der Bearbeitung echter Aufgaben. Laut Angaben basiert dieses Modell auf Open-Source-Modellen für das Nachtraining, und seine Trainingsdaten stammen aus den Spuren echter Aufgaben, die von dem langjährig gesammelten Agent Harness des Teams erzeugt werden. Im Einzelnen erreicht Boxer auf einem Consumer-PC mit 40 TOPS Rechenleistung eine Pre-Fill-Geschwindigkeit von über 700 Token pro Sekunde und eine Dekodiergeschwindigkeit von über 30 Token pro Sekunde, wobei der Arbeitsspeicherbedarf unter 8 GB liegt.
Vor Ort bei der Veranstaltung führte Dr. NING Kunpeng, Mitbegründer von MetaVoid Intelligence, drei echte Aufgaben direkt auf einem HP-PC aus. Ohne Internetverbindung ruft AI Work das lokale Modell auf und kann innerhalb weniger Minuten Aufgaben wie die Kategorisierung und Archivierung von Rechnungen sowie die Erkennung von Anomalien in Transaktionsdaten der Finanzbranche erledigen. Es zeigt auch gute Leistungen bei wissenschaftlichen Forschungsaufgaben und kann den gesamten Ablauf wie komplexe Experimente, Zeichnen von Diagrammen und Verfassen von Arbeiten automatisch abschließen.
Auf der Vorstellungsveranstaltung kündigte MetaVoid Intelligence auch offiziell die Zusammenarbeit mit HP an. Für MetaVoid bedeutet dies, seine technischen Fähigkeiten mit der Hardware und den kommerziellen Fähigkeiten von HP zu kombinieren, AI Work und das seitenseitige Modell auf den Geräten der HP Z-Serie vorzuinstallieren, ein standardisiertes Liefer- und kaufbasiertes Geschäftsmodell umzusetzen, sodass die Vertriebskosten auf der Anwendungsseite nahezu Null liegen. „Zukünftig könnte jeder Computer ein KI-Computer sein. Die Nachfrage nach seitenseitiger KI, insbesondere nach unternehmensweiter seitenseitiger KI, wird bald einen Boom erleben“, erwähnte ZHOU Xinhong, Vizepräsident von HP China Co., Ltd.
PANG Dawei ist der Ansicht, dass der aktuelle Seitenseiten-Markt ein Geschäft ist, das große Unternehmen vorübergehend nicht betreiben werden, aber er räumt auch ein, dass es keine Technologie gibt, über die große Unternehmen nicht verfügen. Der Wettbewerbsvorteil von MetaVoid Intelligence liegt darin, dass das Geschäftsmodell cloudbasierter Modelle große Unternehmen vorübergehend davon abhält, sich vollständig auf die Seitenseite zu konzentrieren. Der Schlüssel zum Betrieb der Seitenseite – die seitenseitige Umgebung und der Datenkreislauf – ist genau das, was MetaVoid seit langem aufgebaut hat.
Im Folgenden finden Sie Auszüge aus dem Gespräch zwischen Medien wie 36Kr und PANG Dawei, CEO von MetaVoid Intelligence, ZHOU Xinhong, Vizepräsident von HP China Co., Ltd., sowie YAO Jiayu, Mitbegründer von MetaVoid Intelligence, und Dr. NING Kunpeng, die leicht redigiert wurden:
F: Die Märkte für seitenseitige KI und cloudbasierte KI sind beide sehr groß. Wie sehen MetaVoid und HP den Markt für seitenseitige KI?
PANG Dawei: Gemessen an der Marktgröße befindet er sich derzeit in einem raschen Aufschwung. Zunächst einmal ist der Anwendungsbereich, der von Modellen kleiner Größe abgedeckt werden kann, immer größer geworden. Die Größe vorhandener seitenseitiger Modelle wird schrittweise verkleinert, von 35B über 27B bis hin zu noch kleineren Größen, sodass immer mehr Geräte für die lokale Bereitstellung geeignet sind.
Darüber hinaus boomt auf Hardware-Seite der Markt für die lokale Bereitstellung von KI sowohl bei neuen als auch bei alten Geräten. In China werden jährlich mehrere zehn Millionen PCs neu ausgeliefert, und weltweit werden jährlich stabil 300 Millionen Computer ausgeliefert – dieser Markt ist definitiv vorhanden.
ZHOU Xinhong: Zukünftig wird jeder Computer ein KI-Computer sein. Es ist abzusehen, dass die Kosten für die unternehmensweite Bereitstellung von KI in den nächsten zwei bis drei Jahren verdoppelt werden. Die Nachfrage nach unternehmensweiter KI ist stark, aber diese Nachfrage ist noch nicht auf die Seitenseite gelangt. Dass KI für Büroarbeiten genutzt werden kann, ist erst in diesem Jahr zu einem Thema geworden. Derzeit sind Infrastruktur, Server und Rechenleistung bereits vorhanden, sodass die Umsetzung nun erfolgen kann. Insbesondere in Branchen mit hohen Anforderungen an die Datenkonformität wie Finanzen, Pharmazeutik und Fertigung müssen Daten und Wissen lokal verbleiben – diese Bereiche weisen ein extrem hohes Wachstumspotenzial auf.
F: Derzeit ist das gängige Geschäftsmodell solcher Büroanwendungen die Abrechnung nach Token. Wie bewerten Sie das Geschäftsmodell der Seitenseite mit kaufbasierter Lizenzierung?
PANG Dawei: Wir bieten standardisierte Lieferung an. Unser Geschäftsmodell umfasst Einnahmen aus lokalen Lizenzen sowie Einnahmen aus cloudbasierten Token im seitenseitig-cloudbasierten gemischten Modus. Der größte Vorteil der Zusammenarbeit mit Hardware-Anbietern ist, dass wir uns nur auf die Forschung und Entwicklung konzentrieren müssen und beim Vertrieb auf die Vertriebskanäle von HP zurückgreifen können.
Was die globale Entwicklung angeht, bauen wir einerseits unsere eigene Online-Plattform für den internationalen Markt auf, andererseits nutzen wir die Zusammenarbeit mit HP, um über seine internationalen Vertriebskanäle zu expandieren. Derzeit erschließen wir die Märkte in Singapur, Südostasien sowie Japan und Südkorea.
F: MetaVoid hat mehrfache Geschäftsverlagerungen erlebt. Wie definieren Sie Ihre Position nach der Verlagerung auf die Seitenseiten-Spur?
PANG Dawei: Erstens sind wir ein Unternehmen für seitenseitige KI-Modelle, das Modelle, Agent und Hardwaregeräte entwickelt. Zweitens haben wir ursprünglich ChatExcel entwickelt, ein Büroprodukt in Form eines Chatbots für Endverbraucher – das ist unsere Wurzel. Ohne Zusammenarbeit mit Hardware-Herstellern kann ein kleines Team die selbstständige Evolution von Modellen kaum gut umsetzen. Das ist der Schlüssel, mit dem ein kleines Team einen großen Markt erschließen kann.
F: Facewall Intelligence hat bereits eine Zusammenarbeit mit Samsung geschlossen. Wird MetaVoid die Zusammenarbeit mit Mobiltelefonherstellern in Betracht ziehen?
PANG Dawei: Zumindest in dieser Phase konzentrieren wir uns darauf, seitenseitige Modelle auf Produktivitätsgeräten wie PCs und Workstations zu platzieren, und betreten vorerst nicht den Mobiltelefonbereich. Derzeit haben Mobiltelefonhersteller standardmäßig die Vorinstallation kleiner Modelle abgeschlossen. Wir betrachten Mobiltelefone nicht als Zielgeräte, sondern konzentrieren uns mehr auf Geräte, die wirklich vernetzt arbeiten und Netzwerkeffekte erzeugen können, sowie auf Szenarien mit höherem Wert.
F: Wie wird Ihr 35B-Parameter-Modell trainiert? Warum trainieren Sie nicht direkt branchenspezifische Modelle, sondern allgemeine Modelle, die auf branchenspezifischem Harness ausgeführt werden?
NING Kunpeng: Dieses Modell basiert auf dem Qwen-Modell und wird mit Daten nachtrainiert, die von unserem Agent Harness erzeugt werden. Nach den Ergebnissen ist die Leistungsfähigkeit von 35B jetzt höher als die von GPT-4o vor über einem Jahr, mit sehr hoher intelligenter Dichte. Als Referenz hat DeepSeek V4 Flash nur 13B aktivierte Parameter, aber seine Leistungsfähigkeit ist bereits ausreichend stark.
YAO Jiayu: Was die Frage angeht, warum wir Branchendaten nicht direkt in das Modell eintrainieren, sind wir der Ansicht, dass reale Arbeitsumgebungen die Zusammenarbeit von Modell, Agent und Gerät erfordern. Aufgaben erfordern kontinuierliches Merken, Feedback und Ausführen von Operationen, was nicht durch einen einzelnen Kontext oder reines Chatten erledigt werden kann. Harness ist für die Erzeugung von Datenspuren verantwortlich und muss zusammen mit dem Modell trainiert werden – beide sind untrennbar miteinander verbunden.
F: Warum werden die Parameter der Modelle immer größer, aber die erzielten Gewinne werden geringer?
NING Kunpeng: Derzeit sind die Daten im Internet fast vollständig erschöpft, es lassen sich keine weiteren Informationen mehr finden. Die qualitativ hochwertigen Daten, die für das nächste Training der Modelle benötigt werden, wie z. B. Spurdaten, befinden sich in den Geräten, die tatsächlich genutzt werden.
Jetzt entwickeln viele Hersteller von Großmodellen verschiedene branchenspezifische Lösungen, aber Unternehmen können diese kaum praktisch nutzen. Es zeigt sich, dass bei guter Datenauswahl auch kleine Parameter gute Ergebnisse erzielen können. Gleichzeitig führt eine zehnfache Erhöhung der Parameterzahl nicht mehr zu einem zehnfachen Leistungsgewinn – der Abstand zwischen kleinen und großen Modellen verkleinert sich.
F: Wenn das seitenseitige Modell an Nutzer ausgegeben wird, wie gelangen die Nutzerdaten zurück zu MetaVoid für das Training?
NING Kunpeng: Bei Nutzern mit vollständig lokaler Lieferung werden die während der Nutzung erzeugten Daten absolut nicht zurückgeleitet. Bei unternehmensweiten Szenarien, z. B. wenn wir Dienstleistungen für Unternehmen erbringen, können Unternehmen uns die Genehmigung erteilen, das Training durchzuführen.
F: Wenn große Unternehmen seitenseitige KI entwickeln, was sind Ihre Wettbewerbsfähigkeit und Kernvorteile?
PANG Dawei: Es gibt keine Technologie, über die große Unternehmen nicht verfügen, aber jedes Team hat seine eigene Position und sein eigenes Geschäftsmodell. Das Geschäftsmodell cloudbasierter Anbieter bestimmt, dass sie sich nicht vollständig auf die Seitenseite konzentrieren. Wir gehen davon aus, dass alle großen Unternehmen dies tun werden, aber ob sie es gut machen und tiefgehend entwickeln können, ist eine andere Sache. Die Seitenseite erfordert eine native seitenseitige Umgebung und einen Datenkreislauf.
F: HP entwickelt selbst auch vollständige KI-Stacks. Warum entscheiden Sie sich für die Zusammenarbeit mit MetaVoid?
ZHOU Xinhong: KI-Gründungen umfassen drei Teile: Daten, Algorithmen und Rechenleistung. Die Daten befinden sich bei den Kunden, die Algorithmen und Modelle bei Herstellern wie MetaVoid Intelligence, und HP kann stabile Rechenleistung sowie Dienstleistungen wie FDE (Frontline Deployment Engineer) anbieten.
Wir arbeiten seit zwei Jahren mit MetaVoid zusammen, beginnend mit ChatExcel, dem ersten KI-Arbeitsplatzprodukt von MetaVoid. MetaVoid entwickelt nicht nur die Harness-Ebene, sondern verfügt über selbst trainierte Modelle und allgemeine Agent, die zudem nach Branchen unterteilt sind – es gibt entsprechende Agent für die Finanz-, Pharmazeutik-, Fertigungs- und wissenschaftliche Forschungsbranche. Das ist der differenzierte Vorteil von MetaVoid gegenüber anderen Modellanbietern.
F: Unter welchen Umständen wird der Wendepunkt für die Nachfrage nach unternehmensweiter seitenseitiger KI eintreten?
ZHOU Xinhong: Zuerst ein Trend: Die Kosten für PCs steigen ab 2025, und die Serverbestellungen von Herstellern sind bereits bis zum nächsten Jahr ausgebucht – die Preiserhöhungen werden anhalten. Wenn die Preise stetig steigen, wird es unweigerlich einen kritischen Punkt geben: Wenn Hersteller großen Arbeitsspeicher direkt in die Geräte integrieren und ein Gerät mit lokaler Rechenleistung ungefähr so viel kostet wie die Ausgaben, die ein Unternehmen in zwei bis drei Jahren für Cloud-Dienste ausgibt, wird dieser kritische Punkt erreicht.
NVIDIA arbeitet bereits daran, großen Arbeitsspeicher in Chips zu integrieren, um ausreichend starke lokale Rechenleistung bereitzustellen. Zum Beispiel: Wenn die Produkte von MetaVoid darin integriert und mit Modellen ausgestattet werden, lassen sich viele Aufgaben lokal erledigen, sodass Kunden keine kontinuierlichen Ausgaben für Cloud-APIs mehr tätigen müssen. Sobald solche Produkte auf den Markt kommen und von den Nutzern selbstverständlich verwendet werden, laufen die drei Kurven Hardware, Software und Modell zusammen – das Erreichen des kritischen Punkts ist dann ganz natürlich.
F: Ist die KI-Welle positiv oder negativ für PCs? Lenovo und Dell haben bereits Trends bei KI-PCs vorgezeigt. Wie wird HP diesbezüglich vorgehen?
ZHOU Xinhong: Aus Marktsicht schrumpft der Markt für PCs unter 700 US-Dollar, aber hochpreisige PCs über 700 US-Dollar mit GPU-Rechenleistung verzeichnen ein zweistelliges positives Wachstum. Aus unseren eigenen Verkaufsdaten geht hervor: Die ausgelieferte Stückzahl sinkt – da der Preis pro Gerät steigt, wird die Anzahl der Geräte, die mit demselben Budget gekauft werden können, natürlich geringer. Aber der Umsatz verzeichnet ein zweistelliges positives Wachstum. Der Niedrigpreismarkt ist nicht mehr unser Zielmarkt: Arbeitsspeicher, SSDs und CPUs werden teurer, zu diesem Preisniveau lassen sich keine Produkte mehr herstellen.
Lenovo und Dell konzentrieren sich auf Server, Rechenzentren und cloudbasierte KI, während HP sich vollständig auf die Seitenseite konzentriert und direkt in die Märkte für seitenseitige Branchenanwendungen, wissenschaftliche Forschung und unternehmensweite Datensicherheit eintritt. Wir bieten Unternehmen Lösungen an, die mit MetaVoid AI kombiniert sind, damit sie praktischere und umsetzbare Optionen erhalten – das unterscheidet sich von dem Weg anderer PC-Hersteller.