SwiftScale hat eine intelligente Verteilungsplattform für KI-Modelle auf den Markt gebracht und eine Investition von mit Tencent verbundenen Angel-Investoren erhalten.
Mit der beschleunigten Implementierung von generativer KI und KI-Agenten in unternehmensweiten Szenarien steigt der Verbrauch von AI-Token exponentiell. Bei der Skalierung von KI-Geschäften stehen Entwickler und Unternehmen jedoch generell vor drei branchenspezifischen Problemen: Erstens ist die Schwelle für die einheitliche Zugänglichkeit und Integration bei der koordinierten Nutzung mehrerer Modelle hoch; zweitens führt der sprunghafte Anstieg des Token-Verbrauchs zu hohen Betriebskosten; drittens haben unternehmensweite Anwendungen strenge Anforderungen an hohe SLA (Service Level Agreement), Datenschutz und regionale Compliance. Die meisten Dienstleister auf dem Markt konzentrieren sich derzeit nur auf Modell-Aggregations-Gateways oder die Vermietung von GPU-Rechenleistung auf unterer Ebene, und es fehlt an Diensten zur Kosten- und Leistungsoptimierung, die die gesamte Kette von „Zugang – Entscheidung – Ausführung“ abdecken.
Angesichts dieser strukturellen Lücke zwischen Angebot und Nachfrage wurde das AI-Infra-Projekt SwiftScale im Juni dieses Jahres offiziell gestartet, hat kürzlich die frühe Inkubation abgeschlossen und eine Investition von Tencent-verbundenen Angel-Investoren erhalten. SwiftScale positioniert sich als integrierte Plattform, die KI-Inferenzoptimierung, intelligentes Routing und Token-Verwaltung vereint. Sie zielt darauf ab, das zentrale Routing- und Entscheidungszentrum im globalen KI-Infrastrukturbereich zu schaffen, um Unternehmen und Entwicklern dabei zu helfen, die Kosten für den Aufruf großer Modelle zu senken und die Effizienz von modellübergreifenden Aufrufen zu verbessern.
Eigenentwickelte geschichtete Architektur und dynamisches Routing senken die Kosten für Modellaufruf und Inferenz über die gesamte Kette
Im Gegensatz zu herkömmlichen Modell-Aggregations-Gateways, die lediglich einfache API-Zusammenführungen durchführen, oder einzelnen Cloud-Anbietern, die nur Modelle ihres eigenen Ökosystems anbieten, liegt der technische Kern von SwiftScale in seiner eigenentwickelten geschichteten Produktarchitektur und der dynamischen Modell-Routing-Engine. Auf der Grundlage von drei Kernkompetenzen – globaler automatischer Routing-Technologie, Strategie-Engine-Matching-Technologie und automatischer Modellwechsel-Technologie – baut die Plattform eine vollständige Produktmatrix auf, die AI Gateway, Decision Engine und AI Token Factory umfasst:
Auf der einheitlichen Zugangsebene bietet AI Gateway kleinen und mittleren Entwicklern sowie Startups einen einheitlichen Zugangspunkt für gängige kommerzielle Modelle und Open-Source-Modelle. Entwickler können ohne die Kapitalkosten für den Aufbau eigener GPU-Cluster über standardisierte Schnittstellen schnell den Zugriff auf mehrere Modelle und deren Wechsel abschließen.
Auf der intelligenten Entscheidungsebene fungiert die Decision Engine als zentrales Routing- und Kostenkontrollzentrum der Plattform. Sie kombiniert mehrdimensionale Eingaben wie spezifische Aufgabenanforderungen, Qualitätserwartungen, Kostenbudgets, regionale Compliance und SLA-Standards, um automatisch komplexe Aufgaben zu zerlegen und Einschränkungen abzugleichen, sodass für jeden API-Aufruf automatisch der kosteneffizienteste Dienstpfad zugeordnet wird.
Auf der exklusiven Ausführungsebene bietet die AI Token Factory speziell für unternehmensweite Hochlastszenarien exklusive private GPU-Inferenzkapazitäten und isolierte Umgebungen, um den Datenschutz von Unternehmen und hochwertige SLA zu gewährleisten und die strengen Compliance-Anforderungen sensibler Geschäfte zu erfüllen. Darüber hinaus hat das SwiftScale-Team ein leichtgewichtiges Open-Source-Programmier-Agent-Tool auf der Frontend-Ebene eingeführt, das über die Open-Source-Community globale Entwickler anzieht, sich am gemeinsamen Aufbau des Ökosystems zu beteiligen, und die Feedback-Schleife auf der Anwendungsebene weiter optimiert.
Implementierung eines gemischten Geschäftsmodells, das die Bedürfnisse von Benutzern aller Stufen präzise abdeckt
In Bezug auf Marktpositionierung und Geschäftsmodell hat SwiftScale ein geschichtetes gemischtes Ertragsmodell entwickelt, das auf die Zahlungsfähigkeit und Ressourcenanforderungen verschiedener Kundengruppen abgestimmt ist. Auf der C-Seite und für Entwickler wird ein monatlich abonnierbarer Coding Plan angeboten, der bedarfsgerecht schnelle Modellaufrufe und Entwicklungsunterstützung bereitstellt. Auf der B-Seite und für Unternehmen werden exklusive API-Dienste mit SLA-Garantie und private Cluster-Dienste angeboten, wobei die Einnahmequellen API-Margen, Inferenz-Margen und Prämien für Mehrwertdienste zur Entscheidungsoptimierung umfassen.
Laut Prognosen von Brancheninstitutionen wird der globale Markt für KI-Inferenz bis 2027 über 100 Milliarden US-Dollar erreichen, und leichtgewichtige Inferenzoptimierungsdienste für Unternehmen und Entwickler weisen ein großes Marktpotenzial auf. Derzeit hat SwiftScale die ersten frühen Kunden über Kanäle wie gezielte Einladungen, Aktivitäten in Entwicklergemeinschaften und Branchenempfehlungen erreicht. Rückmeldungen aus frühen Tests zeigen, dass die einheitliche Schnittstelle der Plattform eine Menge redundanter Entwicklungsarbeit einspart, das intelligente Routing das monatliche Token-Ausgabevolumen des Testteams um fast 20 % senkt und das unternehmensweite Verwaltungshintergrundsystem die Probleme der Berechtigungseinstufung und Auditierung bei Aufrufen durch mehrere Mitarbeiter effektiv löst.
Janus Zhang, Gründer und CEO von SwiftScale, verfügt über akademische Hintergründe wie einen Master in Informatik der Nationaluniversität von Singapur, einen MBA der Shanghai Jiao Tong University und ein Studium der Informatik an der SIT in den USA. Er war zuvor bei Tencent, Shein, Singapur Telekom und DreamWorks tätig und verfügt über langjährige Erfahrung im Bereich der Technologie für ausländische Infrastrukturen. Die bisherige Erfahrung des Teams bei der Unterstützung der Infrastruktur für Tencents Auslandsgeschäft bildet eine solide Wettbewerbsbarriere in den Bereichen multiregionale Compliance-Verwaltung, komplexes Netzwerk-Routing und Architekturdesign mit hoher Stabilität.
Konzentration auf nachhaltige Entwicklung, Schaffung des zentralen Routing-Zentrums der globalen KI-Infrastruktur
Von der Konzeption des Projekts bis zur Markteinführung des Produkts hat das SwiftScale-Team weniger als drei Monate benötigt. Derzeit ist das SwiftScale-Produkt stabil im Einsatz und befindet sich in einer Entwicklungsphase mit schrittweiser Ausweitung der Nutzung.
Zu den weiteren Entwicklungsplänen erklärte das Team, dass es die technische Forschung und Entwicklung weiter vertiefen und die Entscheidungsgenauigkeit der Decision Engine in komplexen Szenarien optimieren wird. Gleichzeitig wird es differenzierte regionale Compliance-Strategien entsprechend den gesetzlichen Anforderungen verschiedener Länder und Regionen entwickeln, um das Nutzerwachstum stetig zu steigern. Als neue Kraft im Bereich der KI-Infrastruktur wird SwiftScale langfristig darauf abzielen, das zentrale Routing- und Entscheidungszentrum in der globalen KI-Infrastruktur zu werden, um Entwicklern und Unternehmen dabei zu helfen, Kosten zu senken und die Effizienz zu steigern, und die tiefe Integration großer KI-Modelle in die reale Industrie und Anwendungen zu beschleunigen.