Jiuliu Technology hat eine Serie-A+-Finanzierung in Höhe von fast 100 Millionen Yuan abgeschlossen. Shanghai Guotou Futeng Capital und Guofang Innovation haben gemeinsam die Führung bei der Investition übernommen.
36Kr hat erfahren, dass der Anbieter von KI-Infrastruktur "Jiliu Technology" kürzlich eine Serie-A+-Finanzierung in Höhe von fast 100 Millionen Yuan abgeschlossen hat. Die Serie wurde gemeinsam von Shanghai Guotou Futeng Capital und Guofang Innovation angeführt, während die Kramay City Development Fund und die Zhangjiang Suixin Fund mitinvestierten. Der alte Aktionär Zhuoyuan Asia hat in vier aufeinanderfolgenden Runden zusätzliche Investitionen getätigt. Das in dieser Runde gesammelte Kapital wird hauptsächlich für die Forschung und Entwicklung von Kerntechnologien, die Markterweiterung und den Teamaufbau verwendet.
Jiliu Technology wurde im Februar 2023 gegründet und stammt aus dem Netzwerksicherheitslabor der Tsinghua-Universität. Der Gründer Hu Xiaohe ist Doktor und Postdoktor der Tsinghua-Universität und hat mehr als zehn Jahre Erfahrung in der Forschung auf dem Gebiet von Hochleistungsnetzwerken und verteilten Systemen. Die Mitglieder des Kernteams kommen aus Spitzenschulen wie der Tsinghua-Universität und der Peking-Universität sowie aus führenden Anbietern wie Alibaba, Baidu und ZTE.
Jiliu Technology positioniert sich als Anbieter von ganzheitlich eigenentwickelten KI-Rechenleistungsinfrastrukturen. Das Team konzentriert sich auf die Lösung der Probleme bei der verteilten Rechenkommunikation in großen Rechenleistungskluster. Als einer der wenigen chinesischen Anbieter von KI-Infrastruktur mit der Erfahrung in der Implementierung mehrerer Tausendkarten-Kluster hat das Unternehmen bereits mehrere Kunden wie Zhipu AI, SenseTime, Netzbetreiber, Rechenzentren und staatliche Unternehmen an der lokalen Ebene bedient.
"Im Gegensatz zu den 'Immobilienentwicklern', die sich auf den Betrieb von Rechenleistungsplattformen konzentrieren, und den 'Renovatoren', die sich auf die Systemoptimierung spezialisieren, konzentrieren wir uns auf die Erstellung eines hochleistungsfähigen, offenen und eigenentwickelten KI-Rechenleistungssystems, das sowohl Hardware als auch Software für die Rechenkommunikation abdeckt, ähnlich wie das 'Bauen von Häusern'.", sagte Xie Wenqi, Mitgründer und CFO von Jiliu Technology, gegenüber 36Kr.
Mit dem Ausbruch von großen Modellen und AIGC-Anwendungen ist die Rechenleistung zur neuen Infrastruktur geworden, neben Wasser, Strom und Netzwerk. Darauf folgen die Engpässe in der Netzwerkkommunikation, die hohe Ausfallrate und die hohen Kosten, die durch die enge Kopplung von Hardware und Software der Anbieter verursacht werden. NVIDIA nutzt seine CUDA-Ekosystem, um nicht nur GPU zu verkaufen, sondern auch seine spezialisierten Netzwerkequipment zu bündeln, was zu einer geschlossenen und teuren Lösung führt.
"Unser Kernvorteil liegt in der Kosteneffizienz und Offenheit, was im Wesentlichen auf die 'Entkopplung' zurückzuführen ist.", hat Hu Xiaohe, Gründer von Jiliu Technology, einmal festgestellt. Durch das von Jiliu Technology eigenentwickelte RoCE-Netzwerkplanungskonzept können die Kosten der Kunden um 40 % gesenkt werden, und die Lieferzeit wird von Monaten auf Wochen verkürzt. Im zweiten Halbjahr 2023 hat Jiliu Technology erfolgreich das erste dritte-party Tausendkarten-H800-RoCE-Kluster in China implementiert, was die Iteration der Basismodelle von chinesischen großen Modellunternehmen stark unterstützt hat.
Zurzeit hat Jiliu Technology ein eigenentwickeltes, hochleistungsfähiges und offenes KI-Rechenleistungssystem namens Galaxy HPAC (High-Performance AI Computing) entwickelt. Das System besteht hauptsächlich aus drei Kernprodukten: einem hochleistungsfähigen, integrierten KI-Netzwerk (Mercury-X), einer KI-Plattform (Venus-AICloud) und einer Plattform für die Instandhaltung und Verwaltung von Rechenleistung (Venus-AIDOC). Darüber hinaus hat der von der Firma eigenentwickelte MS6426-All-China-Chip-25,6T-Hochgeschwindigkeits-Open-Source-AI-Switch die 72-stündige Langzeitstabilitätstest des KI-Rechenleistungsklusters bestanden und wird nun in großem Maßstab eingesetzt.
Xie Wenqi sagte, dass das Unternehmen nach mehr als zwei Jahren Entwicklung insgesamt 23 Cluster optimiert und ausgeliefert hat, die mehr als 66.000 GPUs, über 4.000 Switches und mehr als 320.000 optische Module umfassen. Gleichzeitig wurden mehrere Cluster für die Fernabwicklung von Training und Inferenz (50 km, 100 km, 1.500 km) erfolgreich implementiert.
Was die Frage nach einem Überangebot an Rechenleistung angeht, sagte Xie Wenqi gegenüber 36Kr, dass die Rechenleistung nicht nur für das Pre-Training benötigt wird. Zurzeit führen sowohl chinesische als auch ausländische große Modellunternehmen weiterhin Pre-Training durch, und die Rechenleistungsanforderungen für die Inferenz und das Post-Training wachsen schnell. Bezüglich des Anteils der Anforderungen erwähnte er, dass das Verhältnis der Rechenleistungsanforderungen zwischen Training und Inferenz im Jahr 2023 ungefähr 7:3 war, im Jahr 2024 5:5 und bis 2025 möglicherweise 3:7 betragen könnte. Während es sich in Kernregionen wie Peking und Shanghai ansiedelt, beteiligt sich Jiliu Technology auch aktiv an der Umsetzung von Rechenleistungsprojekten in Regionen wie Xinjiang und Ningxia, um der nationalen Strategie zu entsprechen.
Zurzeit hat Jiliu Technology sich in die Simulation und die zukünftige Architekturplanung eines Zehntausendkarten-Klusters eingearbeitet. Hu Xiaohe gestand, dass die chinesische Branche noch in der Erkundungsphase ist, wie man ein Zehntausendkarten-Kluster aufbaut und nutzt, aber die Technologie muss vorausschreiten. Das Unternehmen arbeitet mit mehr Branchenpartnern zusammen, um die nationale Substitution von Hardware und die Öffnung und Reife des KI-Infrastruktur-Ekosystems voranzutreiben.