Gerade hat Jensen Huang eine spektakuläre Rede in Berlin gehalten: Der PC ist tot, das Zeitalter der KI-Agenten ist vollständig angebrochen.

Vor zehn Jahren brauchte es zwei Personen, um diese Maschine nach oben zu tragen – heute hebt Lao Huang sie mit einer Hand auf die Bühne!

Gerade eben auf der Bühne der GTC Berlin hat Jensen Huang ein leichtes Notebook namens RTX Spark hochgehoben, das über 128 GB Arbeitsspeicher verfügt.

Im August 2016 hat er das gerade veröffentlichte DGX-1 in das Büro von OpenAI in San Francisco geschickt. Diese Maschine hatte ebenfalls 128 GB Arbeitsspeicher, aber man brauchte zwei Personen, um sie nach oben zu tragen.

Lao Huang sagte, der einzige Unterschied bestehe darin, dass er sie jetzt mit einer Hand halten kann.

In den vergangenen zehn Jahren hat sich die KI-Leistung um das 1-Millionen-fache verbessert, während das Mooresche Gesetz im gleichen Zeitraum nur um etwa das 100-fache gewachsen ist.

Der verbleibende Unterschied ergibt sich durch das „maximale kooperative Design“, bei dem jede Softwareschicht, jeder Computer, jeder neue Algorithmus und die gesamte Architektur gemeinsam angepasst werden.

Dies ist die Erklärung einer neuen industriellen Revolution.

In dieser anderthalbstündigen Veranstaltung hat Lao Huang eine ganze Reihe neuer Spitzenprodukte vorgestellt:

• Auslieferung von KI-Fabriken in fertiger Verpackung: Der DSX POD wird im Werk vollständig montiert und getestet. Sobald Strom und Wasser am Standort verfügbar sind, verkürzt sich die Bereitstellungsdauer von etwa sechs Monaten auf mindestens 14 Tage.
• Agenten werden abgesichert: Die OpenShell-Referenzarchitektur legt die Regeln außerhalb des Agenten fest, und unbefugte Aktionen werden von BlueField-4 innerhalb von Millisekunden isoliert.
• Die mechanische Ente betritt die Bühne: MicroDuck wurde auf RTX Spark entwickelt, in der Cloud trainiert und ist selbstständig auf die Bühne gelaufen.
• CUDA kann jetzt „telefonieren“: Nvidia und Nokia haben im T-Mobile-Netzwerk den weltweit ersten echten Netz-KI-RAN-Anruf erfolgreich durchgeführt.
• Ein Referenzmodell für humanoide Roboter ist verfügbar: Nvidia und Agile Robots haben den Agile ONE SN vorgestellt, der voraussichtlich Anfang 2027 auf den Markt kommt.

Ein Notebook ist Ihr persönlicher Agent

Die RTX Spark erreicht eine maximale FP4-KI-Rechenleistung von 1 Petaflops und verfügt über bis zu 128 GB einheitlichen Arbeitsspeicher.

Sie kombiniert die Blackwell RTX GPU und die Grace CPU zu einem Superchip, den Lao Huang auf der Bühne als N1X bezeichnet hat. Dieser Computer ist seit dem 16. Oktober bereits im Handel erhältlich.

Seit Jahrzehnten ist der Computer nur ein Werkzeug: Sie geben Befehle ein, und er führt sie aus. Jetzt wird diese Definition vollständig umgestoßen.

Für Jensen Huang ist die RTX Spark Ihr „persönlicher Agent“, „persönlicher Assistent“ und sogar „digitaler Begleiter“. Die Interaktion mit ihr ähnelt eher der Zusammenarbeit mit einem Partner, der Ihnen bei der Arbeit hilft.

Um als guter persönlicher Agent zu fungieren, benötigt sie ein Modell, Harness, die sichere Laufzeitumgebung OpenShell sowie Wissen und Werkzeuge. Das Modell kann sowohl lokal als auch in der Cloud ausgeführt werden.

Im Bereich der Werkzeuge hat Nvidia bereits eine solide Grundlage: Dieser Computer beschleunigt OpenGL, DirectX und alle CUDA-Anwendungen, sodass alle von Nvidia entwickelten Programme darauf ausgeführt werden können.

Für die Entwicklung dieses Computers hat Nvidia vier Jahre lang geheim mit Microsoft zusammengearbeitet und Tausende von Ingenieurjahren an Aufwand investiert.

Die gesamte PC-Branche ist in Bewegung geraten: Desktop-PCs, Notebooks und Workstations werden alle auf die RTX Spark setzen.

In zukünftigen Arbeitsszenarien übergeben Sie Ihre Aufgaben an die RTX Spark, die dann die entsprechenden Programme aufruft, um die Arbeit für Sie zu erledigen. Sie nutzen die Software nicht mehr einfach, sondern Sie „beschäftigen“ den Computer.

Fünf Kernelemente eines Agenten

In den letzten Jahren spricht jeder über große Sprachmodelle. Für Jensen Huang reicht das Modell allein jedoch nicht aus: Das Modell ist nur das Gehirn, und das, was wirklich arbeiten kann, ist der Agent.

Ein Agent kann denken, schlussfolgern, iterieren und Werkzeuge nutzen. Je mehr er denkt, desto mehr Tokens werden verbraucht, und die Nachfrage nach GPUs steigt sprunghaft an.

Ein Agent muss fünf Kernelemente aufweisen.

• Modell: Zuständig für Wahrnehmung, Schlussfolgerung, Planung und Nutzung von Werkzeugen.
• Harness: Koordiniert Aufgaben, verwaltet aktives Gedächtnis, Arbeitsgedächtnis und Langzeitgedächtnis und aktiviert Werkzeuge.
• Sandbox: Isoliert Harness vom Rest des Systems.
• Wissen: Ermöglicht dem Agenten, Ihre Unternehmensdaten und privaten Dateien zu verstehen.
• Werkzeuge: Lässt den Agenten die bereits vorhandene menschliche Software nutzen.

Diese fünf Elemente laufen auf unterschiedlicher Hardware: Das Modell denkt auf der Vera Rubin NVL72, Harness läuft auf den Vera MGX-Rechenknoten, das Wissen wird von den Vera CMX-Speicherknoten bereitgestellt, und die Werkzeuge werden den Vera RTX-Rechenknoten zugewiesen, die ausschließlich CUDA-X-Bibliotheken ausführen.

Daher steuert Vera Rubin den gesamten Agenten.

Die Hardware von Vera Rubin wurde ebenfalls weiterentwickelt. Jensen Huang hat auf der Bühne ein Rechenmodul gezeigt, das keine Kabel und keine Drähte enthält und zu 100 % flüssigkeitsgekühlt ist.

Die Montage eines einzelnen Geräts der vorherigen Generation Grace Blackwell dauerte zwei Stunden und war voller Kabel, während die Montage eines Vera Rubin in weniger als 5 Minuten abgeschlossen ist.

Die Antwort von Jensen Huang auf die Frage, wie man einen Agenten aufbaut, ist einfach: „Lassen Sie einen anderen Agenten für Sie bauen.“ Die spätere Demonstration der mechanischen Ente wurde von einem Agenten auf einem persönlichen Computer gesteuert.

Sicherheit ist der entscheidende Faktor im Zeitalter der Agenten.

Agenten können selbst Dateien bearbeiten, im Internet surfen und Werkzeuge aufrufen, daher müssen ihre Berechtigungen auf das Minimum beschränkt und ständig überwacht werden.

In dem Einführungsvideo zu OpenShell macht Nvidia zuerst einen Scherz über sich selbst: Derzeit kann ein Agent nur durch eine höfliche Anweisung wie „Bitte löschen Sie keine Dateien“ in der Eingabeaufforderung zurückgehalten werden.

Aus diesem Grund hat Nvidia die OpenShell-Referenzarchitektur veröffentlicht.

Ihr Konzept besteht darin, Regeln außerhalb des Agenten festzulegen. Jeder Agent wird in eine eigene Sandbox gesperrt: Welche Dateien er lesen und schreiben darf, welche Netzwerke er verbinden kann und sogar jeder einzelne Systemaufruf wird von den Regeln außerhalb der Sandbox gesteuert. Die Verschlüsselungsschlüssel werden niemals an den Agenten übergeben.

Auf Hardwareebene gibt es eine zusätzliche Sicherheitsstufe: Sentry läuft auf BlueField-4 wie ein Wächter, der niemals schläft, außerhalb des Hosts und überwacht jede Bewegung des Agenten. Sobald er die Grenzen überschreitet, wird er innerhalb von Millisekunden isoliert.

KI-Fabriken in Containern verpackt – Bereitstellung in nur 14 Tagen

Wenn man Agenten hat, wo sollen sie ausgeführt werden?

Die Antwort lautet: KI-Fabriken.

Fabriken in der alten Zeit wandelten Kohle in Strom um. Die KI-Fabriken der neuen Ära wandeln Strom in Intelligenz um.

Jensen Huang hat während seiner gesamten Rede wiederholt eine Behauptung aufgestellt: KI ist eine Art Fertigungsindustrie, nicht nur Software.

„Um Teil dieser KI-Wirtschaft zu werden, dürfen Sie nicht nur Konsument von KI sein, sondern müssen auch Produzent von KI werden“, sagte Huang.

Eine 1-Gigawatt-KI-Fabrik, die Land, Strom, Gebäude, Rechenleistung, Netzwerk, Speicher und Kühlung umfasst, kostet etwa 50 Milliarden US-Dollar. Bei einem Jahresumsatz von 40 Milliarden US-Dollar bedeutet eine Verspätung der Inbetriebnahme um drei Monate einen Umsatzverlust von etwa 10 Milliarden US-Dollar.

Um Unternehmen beim schnelleren Aufbau solcher Fabriken zu unterstützen, hat Nvidia NVIDIA DSX POD vorgestellt.

Ein POD besteht aus 7 flüssigkeitsgekühlten Computerracks, die durch insgesamt 17 Kilometer lange Spectrum-X-Kabel miteinander verbunden sind.

Die gesamte Ausrüstung wird im Werk vollständig integriert, verkabelt und getestet, dann in einen transportablen Container verpackt und zum Rechenzentrum transportiert. Am Einsatzort wird die Kühlung über Trockenkühler realisiert, und 800-V-Gleichstrom wird direkt zu den Racks geleitet.

Sobald Strom und Wasser am Standort verfügbar sind, verkürzt sich die Bereitstellungsdauer von etwa sechs Monaten auf mindestens 14 Tage.

Das dahinterliegende Konzept besteht darin, die Installation in die Lieferkette zu verlagern. Vor drei Jahren hat Grace Blackwell NVLink 72 erstmals die gesamten Racks in das Werk verlegt, aber nach dem Transport zum Einsatzort mussten