Aufbau globaler Rechenleistungsknoten: GoodVision AI errichtet ein ganzheitliches, dynamisch orchestriertes KI-Compute-Grid
Jensen Huang veröffentlichte einen Beitrag über KI-Fabriken, der in weniger als 12 Stunden mehr als eine Million Aufrufe erzielte.
Der Beitrag erörterte keine leistungsfähigeren Modelle, sondern sprach über Grund und Boden, Strom, Rechenzentren und vollständige Rechenleistungssysteme. Er kommt zu dem Schluss, dass nicht Algorithmen, sondern die Infrastruktur zur wichtigsten Einschränkung des KI-Wachstums wird. Denn diese Dinge, die für normale Nutzer weit entfernt erscheinen, bestimmen eine zunehmend praktische Frage: Warum werden Modellaufrufe immer günstiger, aber die KI-Rechnungen von Unternehmen möglicherweise schneller wachsen als das Geschäft selbst?
Die Antwort liegt in einer scheinbar gewöhnlichen Aufgabe:
Ein Softwareunternehmen lässt einen Agenten bei der Behebung von Online-Störungen unterstützen. Er muss Warnungen und Betriebsprotokolle lesen, fehlerhaften Code lokalisieren, interne Dokumente durchsuchen, Abhängigkeiten zwischen vorgelagerten und nachgelagerten Komponenten analysieren, Reparaturlösungen generieren und dann Tools aufrufen, um Tests durchzuführen und Ergebnisse zu prüfen. Der Ingenieur gibt möglicherweise nur eine Anweisung aus, aber der Agent muss im Hintergrund Dutzende von Schritten nacheinander ausführen, um sie zu erfüllen. Jeder Schritt kann ein Modell aufrufen, und jeder Aufruf verbraucht Rechenleistung.
Diese Aufrufe sind nicht alle gleich. Zum Sortieren von Protokollen ist nicht das stärkste Modell erforderlich, aber zur Beurteilung der Fehlerursache kann komplexes Schließen erforderlich sein; ein Teil des Codes kann an Cloud-Modelle übergeben werden, aber Protokolle mit Kundendaten müssen im Unternehmensinternen verbleiben; normale Analysen können einige Sekunden länger dauern, aber Warnungen von Produktionssystemen vertragen keine langen Netzwerkumläufe. Wenn alle Aufgaben an dasselbe Modell und dasselbe Rechenzentrum gesendet werden, erhält das Unternehmen nicht unbedingt bessere Ergebnisse, trägt aber definitiv höhere Kosten und größere Latenzzeiten.
Das ist die eigentliche Bedeutung des Eintritts der KI in die Infrastrukturphase. Der Wettbewerb findet nicht mehr nur zwischen Modellen statt, sondern auch bei jeder Zuweisung hinter den Modellen: Welche Aufgabe soll welches Modell verwenden, an welchem Knotenpunkt ausgeführt werden und mit welchen Kosten und welcher Geschwindigkeit abgeschlossen werden. Wenn solche Entscheidungen täglich Millionen Male getroffen werden, bestimmen nicht nur die Menge der erworbenen Rechenleistung die KI-Kosten eines Unternehmens, sondern auch, ob diese Rechenleistung an der richtigen Stelle eingesetzt wird.
Das ist auch der Bereich, in dem GoodVision AI derzeit tätig ist. Mit modularen KI-Fabriken deckt es lokale und regionale Inferenzanforderungen ab. Eine einzelne Fabrik kann in einem Bereich von nur 200 Quadratmetern bis zu 1,5 MW Inferenzrechenleistung bereitstellen, und die entsprechenden Projektplanungen umfassen bereits Japan, Südkorea und die USA. Aber noch wichtiger als die Menge der gebauten Rechenleistung ist, dass GoodVision AI versucht, über diese Infrastruktur hinaus eine weitere Frage zu beantworten:
Wenn eine Aufgabe in immer mehr Aufrufe unterteilt wird, wer entscheidet, wohin jede Anfrage gesendet werden soll?
Die Kosten für das Training sind oft einmalig, aber die Kosten für die Inferenz fallen für immer an
In den letzten Jahren lag die Aufmerksamkeit der Branche fast vollständig auf dem Training – Parameterumfang, Trainingscluster, Ranglistenergebnisse. Das ist sinnvoll, denn das ist die Phase, die die Obergrenze der Fähigkeiten eines Modells bestimmt.
Aber Training und Inferenz sind zwei völlig unterschiedliche Arten, Geld auszugeben.
Das Training ist wie der Bau eines Kraftwerks: Hohe Investitionen, konzentrierter Zeitraum, und sobald es gebaut ist, ist es fertig. Ein Modell wird meist nur einmal trainiert. Die Inferenz hingegen ist wie die Stromübertragung und der Stromverbrauch: Jeder Aufruf, jeder Schritt, den ein Agent ausführt, und der Betrieb jedes Endgeräts verbrauchen in Echtzeit Rechenleistung. Ein Modell wird einmal trainiert, aber die Inferenz findet Milliarden- oder Billionenmal statt.
Diesen Unterschied hat GoodVision AI schon früh erkannt. Der Gründer und CEO David Wang gründete das Unternehmen 2019, um die Lücke in der Infrastruktur zu schließen, die entsteht, wenn KI-Fähigkeiten von "nur demonstrierbar" zu "skalierbar lieferbar" übergehen. Nach seinen Worten verlagert sich die Aufmerksamkeit der KI-Infrastruktur allmählich von der Frage "Wo befindet sich die Rechenleistung?" zu "Wie wird jeder Token effizient erzeugt, geroutet und geliefert?". Während die Branche sich auf die Obergrenze der Modellfähigkeiten konzentriert, befasst sich GoodVision AI mit der Frage, wer die Betriebskosten unterhalb dieser Obergrenze verwaltet.
Heute wird diese Erkenntnis zum branchenweiten Konsens.
Die Zahl, die Jensen Huang auf der GTC 2026 vorgelegt hat, lautet: Der Rechenbedarf für die KI-Inferenz ist in den letzten zwei Jahren um etwa das Millionfache gestiegen. Dementsprechend überstiegen die weltweiten Kapitalausgaben für KI-Infrastruktur 2025 400 Milliarden US-Dollar, und die prognostizierte Größe für 2026 übersteigt sogar 600 Milliarden US-Dollar – die KI-Infrastruktur endet nicht mit der Abkühlung des Trainingswettbewerbs, sondern tritt aufgrund des explosionsartig gestiegenen Inferenzbedarfs in einen längeren Bauzyklus ein.
Agenten machen die Inferenzkosten zudem komplexer.
Agenten verändern nicht nur den Verbrauch von Token, sondern auch die Art und Weise, wie sie verbraucht werden. Früher stellte der Nutzer eine Frage, das Modell antwortete darauf; heute muss ein Agent zur Erfüllung einer Aufgabe Materialien lesen, Tools aufrufen, Ergebnisse prüfen und basierend auf dem Feedback weiter handeln. Eine Aufgabe wird dadurch in Dutzende oder sogar Hunderte von Modellaufrufen unterteilt.
Token entwickeln sich von "Verbrauch im Gespräch" zu "Systemverbrauch". Wenn Aufrufe in die Hauptprozesse von Unternehmen einfließen, sind die Kosten nicht mehr nur gelegentlich anfallende API-Gebühren, sondern werden zu einem Betriebsaufwand, der mit dem Geschäft stetig wächst.
Für Unternehmen bedeutet das wirklich: Die Kostenstruktur der KI hat sich von einer einmaligen Anschaffung zu einer ständig aktualisierten Rechnung gewandelt. Und solange die Rechnung andauert, ist die Effizienz kein Ingenieursproblem, das später optimiert werden kann – es ist vom ersten Tag an ein Betriebsproblem.
Daher tritt ein scheinbar widersprüchliches Phänomen auf: Dasselbe Unternehmen kann gleichzeitig mit einem Überangebot an Rechenleistung und einem Mangel an Rechenleistung konfrontiert sein. Hochleistungsrechenleistung wird in Warteschlangen umkämpft, während eine große Anzahl einfacher Aufgaben, die ursprünglich von leichtgewichtigen Modellen lokal innerhalb von einigen Dutzend Millisekunden erledigt werden könnten, die teuersten Ressourcen belegen und eine ganze Weltumrundung im Netzwerk durchlaufen, bevor das Ergebnis zurückgeliefert wird.
Das eigentliche Problem, das gelöst werden muss, ist die Zuweisung von Rechenleistung: Welche Anfragen sollen Flaggschiffmodelle verwenden, welche an leichtgewichtige Modelle übergeben werden und welche im Unternehmensinternen verbleiben sollen.
Jeder Aufruf ist eine Auswahlmöglichkeit
Genau das ist der Bereich, den GoodVision AI lösen möchte. David Wang verfügt über langjährige Erfahrung in der Cloud-Computing-Branche, sein Lebenslauf umfasst Stationen bei IBM, AWS, Alibaba Cloud und Tencent Cloud. Er war früher Partner bei IBM, Mitglied des oberen Managements von AWS, beteiligte sich am Aufbau des frühen Teams von Alibaba Cloud und war später Leiter der Nordamerika-Region von Tencent Cloud.
Diese Erfahrungen lassen ihn sich stärker auf die praktische Anwendung von KI in Unternehmen konzentrieren. Die Technologien, die Unternehmen verwenden, ändern sich ständig – von Cloud-Servern und GPUs bis hin zu Modell-APIs und Agenten – aber die Anforderung bleibt immer gleich: Nützliche KI-Fähigkeiten zu geringeren Kosten und auf stabilere Weise zu erhalten.
Der erste Erfolg von GoodVision AI lag bei Cloud-Diensten, der ersten Zugangsebene, die Unternehmen mit globalen Rechenleistungsressourcen verbindet. Angesichts von AWS, Microsoft Azure, Google Cloud sowie den eigenen privaten Clouds und lokalen Rechenzentren der Kunden hilft es Kunden bei der Cloud-Migration, Architekturplanung, Multi-Cloud-Verwaltung, Betrieb und kontinuierlichen Optimierung. Die Kombination richtet sich nach Geschäftsgröße, Kosten, Datensicherheit und globalen Bereitstellungsanforderungen und ist nicht an einen einzelnen Cloud-Anbieter gebunden.
Der Wert dieses Geschäfts zeigt sich zunächst darin, "Unternehmen bei der Migration zur Cloud zu unterstützen", und gleichzeitig lässt GoodVision AI an den tatsächlichen Arbeitslasten teilhaben – es erfasst, wie Kunden ihre Rechenleistung nutzen, wofür Token ausgegeben werden, wo die Latenz auftritt und wo die Compliance-Grenzen verlaufen. Das sind Informationen, die externe Anbieter kaum aus Präsentationen erhalten. Wenn Unternehmen beginnen, große Modelle und Agenten einzuführen, erweitern sich diese Fähigkeiten natürlich auf Modellaufrufe, cloudübergreifende Planung und private Inferenz.
Diese Entscheidung wird von der Smart Routing Engine getroffen.
Nachdem eine KI-Anfrage auf der Plattform eingegangen ist, identifiziert das System zuerst die Absicht der Anfrage und verteilt sie dann in Echtzeit zwischen verschiedenen Modellen und Rechenleistungsressourcen unter Berücksichtigung der Aufgabenkomplexität, der Token-Kosten, der Antwortgeschwindigkeit, der Datensensitivität, der regionalen Compliance und der Knotenverfügbarkeit.
In konkreten Szenarien können komplexe Schließaufgaben und allgemeine Wissensaufgaben an Flaggschiffmodelle von Cloud-Diensten wie ChatGPT, Claude und Gemini geroutet werden; leichtgewichtige Aufgaben wie Übersetzung, Zusammenfassung, Kundenservice-Antworten und wiederholende Verarbeitung werden an kostengünstige kleine Modelle übergeben; Anfragen, die sensible Daten betreffen oder sehr geringe Latenz erfordern, werden an private Unternehmensmodelle oder Edge-Knoten gesendet, um die Übertragung von Daten zwischen externen Clouds zu reduzieren.
Die Smart Routing Engine unterstützt zudem Agent-to-Agent (A2A)-Aufrufe. Wenn ein Agent eine Aufgabe bearbeitet, muss er häufig einen anderen Agenten bitten, Inhalte abzurufen, zu analysieren, zu prüfen oder zu generieren. Das System arrangiert für diesen Aufruf ein geeignetes Modell und einen geeigneten Ausführungsknoten basierend auf dem Aufgabeninhalt, der Fähigkeitsübereinstimmung, den Kosten, der Latenz und den Datenberechtigungen. Auf diese Weise können mehrere Agenten stabiler zusammenarbeiten, um eine Aufgabe zu erledigen.
Das Multi-Modell-Routing beantwortet die Frage "Welches Modell soll aufgerufen werden", und GoodVision AI möchte noch eine Ebene tiefer gehen: Wo soll dieses Modell ausgeführt werden? Derselbe Modell, das in einer öffentlichen Cloud, einem Unternehmensrechenzentrum oder einem Edge-Knoten bereitgestellt wird, hat völlig unterschiedliche Kosten, Latenzen und Datengrenzen hinter sich. Die Smart Routing Engine plant daher nicht nur Modelle, sondern auch die Position der Rechenleistung, auf der sich das Modell befindet – sie bietet sowohl einen einheitlichen API-Zugang als auch die Ressourcenplanung für das unternehmenseigene KI-System: Einfache Aufgaben verwenden leichtgewichtige Ressourcen, komplexe Aufgaben behalten die erforderlichen Modellfähigkeiten bei; und wenn Cloud-Plattformen, Modelldienste oder Rechenknoten Schwankungen aufweisen, können Anfragen automatisch zu anderen verfügbaren Umgebungen wechseln.
Diese Logik wurde bereits durch tatsächliche Geschäftsvorfälle bestätigt.
GoodVision AI hat einst eine Bild- und Videogenerierungsplattform bedient. Damals überstiegen die monatlichen KI-Ausgaben des Kunden 500.000 US-Dollar, und der Token-Verbrauch wuchs weiterhin um etwa 50 % pro Monat. Nach der Migration der relevanten Modelle zur privaten Bereitstellung in der GoodVision AI Factory sanken die Gesamtkosten des Kunden um etwa 60 % und die Netzwerklatenz um etwa 50 %.
Die Art und Weise, wie es "Kosten spart", ergibt sich aus der gleichzeitigen Neuanordnung von Modellen, Rechenleistung und Bereitstellungsorten, anstatt einfach nur ein günstigeres Modell auszutauschen.
Rechenleistung wandert zu Orten mit vielen Nutzern
Nachdem die Anfrage ausgewählt wurde, muss sie an einem physischen Ort landen. Das führt zu dem gewichtigeren Teil des Geschäfts von GoodVision AI.
David Wang hat eine Erkenntnis: Die aktuelle KI-Infrastruktur befindet sich noch in einer Phase, die der "Zeit vor der Einführung von CDNs" ähnelt. Zentralisierte große Clouds eignen sich nach wie vor am besten für Training und komplexe Inferenz, aber da Agenten häufig Aufgaben wie Übersetzung, Kundenservice, Code, Bilder und Videos verarbeiten, sollten immer mehr Anfragen von Knotenpunkten erledigt werden, die nah an Nutzern, Daten und dem Einsatzort des Geschäfts liegen.
Dahinter stehen klare geschäftliche Gründe. KI-Brillen, Roboter, autonomes Fahren und intelligente Fabriken sind extrem empfindlich gegenüber Latenz, und in vielen Szenarien ist es überhaupt nicht zulässig, Anfragen Tausende von Kilometern weit zu senden und dann auf das Ergebnis zu warten; Daten aus Bereichen wie Finanzen, Gesundheitswesen und öffentlicher Verwaltung dürfen oft nicht einmal über die Landesgrenze übertragen werden.
Die KI-Fabrik von GoodVision AI ist ein modulares Inferenzzentrum für lokale und regionale Anforderungen. Laut Unternehmensangaben wird der PUE durch Tauchkühlung auf unter 1,2 gehalten. In einem Bereich von nur 200 Quadratmetern können bis zu 1,5 MW Inferenzrechenleistung bereitgestellt werden, die an die Smart Routing Engine angeschlossen wird und zu einem lokalen Knoten im globalen Planungsnetz wird. Derzeit laufen entsprechende Projekte in Japan, Südkorea und den USA. Die Knoten in Japan sollen in den nächsten drei Jahren schrittweise erweitert werden, mit einer Gesamtkapazität von 100 MW. Der Expansionspfad des Unternehmens besteht darin, zuerst mit lokalen Partnern Flaggschiff-Knoten zu bauen und dann Edge-Knoten in der Umgebung bereitzustellen, um dieses Liefermodell für Infrastruktur in mehr Regionen zu replizieren.
Hier ist eine Frage zu erläutern: Der Bau von Rechenzentren ist bekanntermaßen ein schwerfälliges und langwieriges Geschäft. Wie kann ein 2019 gegründetes Unternehmen gleichzeitig Projekte in drei Ländern vorantreiben?
Die Antwort liegt im letzten Zyklus der Rechenleistung.
Für traditionelle Rechenzentren dauert der gesamte Prozess von der Grundstücksbeschaffung,