Der nächste AI-Wettbewerbsgraben wird kein besseres Modell sein

Shen Translation ist das Übersetzungsteam von 36Kr, das sich auf Bereiche wie Technik, Wirtschaft, Berufsleben und Alltag konzentriert und vor allem neue Technologien, neue Ansätze und neue Trends aus dem Ausland vorstellt.

Anmerkung der Redaktion: Hören Sie auf, blind große Modelle zu optimieren! Der Flaschenhals für die praktische Umsetzung von Physical AI liegt nicht darin, dass die Modelle nicht intelligent genug sind, sondern in den veralteten Verfahren der technischen Validierung. Ohne die Verbesserung der Effizienz von Integration und Prüfung bleibt selbst das fortschrittlichste KI nur ein Spielzeug im Labor. Der Artikel stammt aus einer Übersetzung.

In den nächsten zehn Jahren werden Milliarden von Maschinen autonom oder intelligent gemacht. Von Pkw, Lkw, Traktoren und Minenfahrzeugen über Verteidigungssysteme, Lagerroboter bis hin zu humanoiden Robotern – das gesamte physische Wirtschaftssystem wird um Software herum neu gestaltet, die wahrnehmen, entscheiden und handeln kann.

Derzeit lautet die gängige Annahme in der Branche, wie dieses Ziel erreicht werden soll, ungefähr so: Die Modelle werden ständig verbessert, die Weltmodelle reifen heran, grundlegende große Modelle für den Robotikbereich entstehen, und am Ende ergibt sich die Autonomie ganz von selbst. Intelligenz ist der gesamte Inhalt dieses Wettbewerbs; sobald die Intelligenz in großem Maßstab ausgebaut wird, wird die Autonomisierung der Maschinen von selbst gelingen.

In den letzten zehn Jahren habe ich daran gearbeitet, Applied Intuition bei der Entwicklung der Softwareinfrastruktur hinter vielen der ehrgeizigsten globalen Physical-AI-Projekte zu unterstützen, die softwaredefinierte Autos, autonome Lkw, Baumaschinen, Bergbausysteme, Verteidigungsplattformen und Robotertechnik abdecken. Diese Perspektive ermöglicht es mir, aus erster Hand zu beobachten, wo die Branche voranschreitet und wo sie immer wieder ins Stocken gerät. Ich bin genauso optimistisch in Bezug auf die Entwicklung der Intelligenz wie alle anderen, aber die gängige Annahme begeht einen logischen Fehler in der Berechnung. Das eingesetzte Physical AI ist das Produkt zweier Variablen: Zum einen die eigene Fähigkeit des Modells, zum anderen die Durchsatz- und Tragfähigkeit des technischen Systems, das um das Modell herum aufgebaut ist – also wie Anforderungen in Software umgewandelt werden, wie Software validiert wird und wie validierte Systeme eingesetzt, überwacht und ständig verbessert werden. Die Branche hat fast alle Ressourcen in die erste Variable gesteckt, während die zweite Variable immer noch auf dem Stand von vor zehn Jahren verharrt und für vierteljährliche Veröffentlichungen und Integrationsteams von Hunderten von Personen ausgelegt ist. Der Betrieb traditioneller technischer Systeme mit modernster Intelligenz führt nicht zu bahnbrechenden Ergebnissen, da die veralteten technischen Systeme selbst der größte Engpass sind.

Daher besteht diese gegen den Konsum gerichtete Wette nicht darin, die Intelligenz selbst schlecht zu machen, sondern darin, dass der nächste sprunghafte Anstieg von Physical AI daraus resultieren wird, die technischen Systeme genauso intelligent zu machen wie die Modelle, die sie tragen. Dennoch basiert die aktuelle technische Roadmap der Branche immer noch auf einigen Annahmen, die einst sinnvoll waren, aber heute nicht mehr mit der Entwicklungsrichtung von Physical AI übereinstimmen.

Intelligentere Modelle lassen sich nicht direkt in einsatzbereite Maschinen umwandeln

Zwischen einem Modell mit hervorragenden Fähigkeiten und einer zertifizierten, stabil laufenden Maschine besteht eine große Lücke, die sich durch die bloße Verbesserung der Modellqualität nicht schließen lässt. Ein Modell, das bei Benchmark-Tests eine um 20 % verbesserte Leistung zeigt, muss immer noch mit vielen anderen Softwarekomponenten integriert, in Millionen von abgeleiteten Szenarien getestet, mit Sicherheitsanforderungen abgeglichen, auf Hardware validiert, anschließend an die Fahrzeugflotte verteilt und in realen Umgebungen in Echtzeit überwacht werden. Bei typischen Projekten bestimmt diese Pipeline das Entwicklungstempo, nicht das Modell selbst. Nachdem die Teams ein Modell mit wesentlichen Leistungssteigerungen erhalten haben, benötigen sie oft zwei Quartale, um nachzuweisen, dass es sicher genug für die Veröffentlichung ist.

Aus diesem Grund sind Weltmodelle zwar beeindruckend, aber sie allein können uns nicht zu einer vollständig autonomen Zukunft führen. Die Geschwindigkeit der Modellentwicklung hat die Aufnahmekapazität der technischen Entwicklungsorganisationen überschritten. Jeder Sprung in den Fähigkeiten des Modells verlagert nur den Engpass, statt ihn zu beseitigen. Der begrenzende Faktor verschiebt sich ständig stromabwärts: von „Kann die Maschine die Welt wahrnehmen?“ zu „Können wir die Fähigkeiten, die die Maschine jetzt hat, validieren, integrieren und betreiben?“. Wenn der Validierungszyklus eines Teams mehrere Monate dauert, wird die Betriebsgeschwindigkeit der modernsten KI zwangsläufig auf das Niveau des eigenen Prozesses verlangsamt.

Dies ist eine Folgerung, die die gesamte Branche noch nicht vollständig in die Kosten einbezogen hat: Da Modelle auf dem Spitzenniveau zunehmend zu einer Ware werden, werden zwei Unternehmen mit gleichem Intelligenzniveau völlig unterschiedliche Ergebnisse erzielen. Der Unterschied zwischen den beiden hängt davon ab, wie schnell ihre jeweiligen technischen Systeme die Fähigkeiten des Modells aufnehmen und verarbeiten können. Intelligenz wird allgegenwärtig, aber die Fähigkeit, sie technisch umzusetzen und zu betreiben, ist es nicht.

Die Erfahrungen aus dem Bereich der digitalen KI lassen sich nicht direkt auf Physical AI übertragen

Die zweite Annahme ist subtiler: Die laufende Revolution der Agenten im digitalen Bereich wird sich automatisch auf Physical AI ausweiten. Sobald Code-Agenten und Copiloten in den Technologie-Stack für autonomes Fahren eingebunden werden, führt dies zu der gleichen Produktivitätssteigerung.

Das stimmt nicht, da die meisten digitalen KI-Systeme auf Dokumente, Konversationen und Code beschränkt sind. Die Einsatzbereiche von Physical AI liegen nicht dort, sondern in Fahrprotokollen und Sensordaten, in Simulationsläufen und Testrahmen mit Hardware-in-the-Loop (HIL), in Anforderungsdatenbanken und Validierungsberichten; sie liegen in den Telemetriedatenströmen der Flotten, die auf realen Straßen und Arbeitsplätzen übertragen werden. Ein Agent, der noch nie ein Ereignis der Übernahme (Disengagement) gesehen hat, nicht versteht, warum eine Verschlechterung der Wahrnehmung (Perception Regression) so wichtig ist und keine Anforderungen auf Testfälle zurückführen kann, ist in diesem Bereich kein Produktivitätswerkzeug, sondern ein Risiko, das hinter einer freundlichen Benutzeroberfläche verborgen ist.

Damit Agenten bei der Implementierung von Physical AI echte praktische Fähigkeiten erwerben, ist dies selbst ein hochmodernes Intelligenzthema, das sich grundlegend von dem Training größerer Modelle unterscheidet. Agenten benötigen einen direkten Zugriff auf die zentralen Daten und Werkzeuge der Branche – wie Simulatoren, Datenpipelines und Validierungssysteme – über ausreichend zuverlässige und vertrauenswürdige Schnittstellen. Sie müssen über eingebettete fachliche Urteilskraft verfügen und tiefgreifendes Branchenwissen aufbauen, um zu verstehen, was „bestandenene Validierung“ tatsächlich bedeutet, wenn das Ergebnis in tonnenschwere Maschinen eingebaut wird. Darüber hinaus müssen sie über eingebaute Bewertungs- und Governance-Mechanismen verfügen, da in diesem Bereich selbst die geringste Abweichung zwischen einer „plausiblen Antwort“ und einer „wirklich korrekten Antwort“ tödliche Folgen haben kann.

Wenn ich sage, dass Physical AI eine eigene Agentenplattform benötigt, meine ich eine Plattform, die modernste Modelle tief in die zugrundeliegenden Daten, Werkzeugketten und Fachkenntnisse physischer Systeme einbettet und native Bewertungs- und Governance-Funktionen integriert. Sie ist kein einfacher Chatbot, der an technische Werkzeuge angehängt ist, und auch kein Produkt, das durch Feinabstimmung allgemeiner Agenten erreicht werden kann. Dies ist eine völlig neue Architektur, die die KI-Innovation nicht weniger fordert als das Modell selbst.

Die Zukunft von Physical AI hängt nicht nur von den intelligentesten Modellen ab, sondern vor allem von den technischen Systemen, die Intelligenz in großem Maßstab in autonome Maschinen umwandeln können.

Geschwindigkeit geht nicht auf Kosten der Sicherheit

Bei der Erörterung der Fähigkeiten von Agenten in der Physical-AI-Entwicklung lautet die reflexartige Gegenmeinung in der Regel: Agenten sollten nicht in sicherheitskritischen technischen Bereichen eingesetzt werden. Automatisierung bedeutet, nach Geschwindigkeit zu streben, was zu Fehlern führen kann. Wenn die betreffenden Objekte mehrere Tonnen schwer sind, ist diese Sorge zweifellos berechtigt.

In sicherheitskritischen Systemen ist die Geschwindigkeit der Rückkopplungsschleife selbst jedoch ein Sicherheitsmechanismus. Wenn die Validierung mehrere Wochen dauert, können Teams nur bei unregelmäßigen Meilensteinen Tests durchführen; wenn die Validierung auf wenige Minuten verkürzt wird, wird jeder Codeänderung ein Test ausgelöst. Probleme werden viel früher erkannt, wenn die Kosten für die Behebung noch sehr gering sind. Die Abdeckung erstreckt sich auf hunderte Male reichere Szenarien. Anforderungen werden genauer umgesetzt, und die Häufigkeit der Validierung steigt deutlich. Ein Prozess, der oberflächlich betrachtet langsam und vorsichtig ist, ist nicht unbedingt der sicherste – er bedeutet oft, dass Mängel monatelang im Verborgenen liegen, bevor sie entdeckt werden.

In diesem Bereich besteht der wahre Weg, Agenten sicher zu halten, nicht darin, ihre Geschwindigkeit zu verringern, sondern klare Grenzen der Verantwortung festzulegen. Die Arbeitsabläufe für Entwicklung, Validierung und Betrieb werden automatisiert, sodass sicherheitskritische Probleme schneller gelöst werden; gleichzeitig werden Zertifizierungen, gesetzliche Unterzeichnungen und endgültige technische Entscheidungen keinesfalls automatisiert. An wichtigen Punkten schlagen die Agenten Lösungen vor, und am Ende treffen die Menschen die Entscheidungen. Jeder Vorgang, der das Produktionssystem berührt, muss nach einer Genehmigungsstufe ausgeführt werden. Dies ist kein vorübergehender Kompromiss während der Modellverbesserung, sondern die langfristig richtige Architektur für Physical AI, so wie ein gut konstruiertes autonomes Auto einen klaren Betriebsbereich (ODD) hat und keine unbegrenzten Steuerungsrechte besitzt.

Wenn Agenten dazu beitragen, Physical AI schneller zu entwickeln, führt diese Entwicklungsgeschwindigkeit dazu, dass das Endprodukt sicherer wird.

Modelle können keine zusammengesetzten Effekte erzeugen – Systeme schon

Wenn man erkennt, dass diese Annahmen die Entwicklung von Physical AI behindern, ist der nächste logische Schritt, stärkere Intelligenz mit schnellerem Lernen zu kombinieren, um ein Agenten-Flywheel zu schaffen, in dem sich modernste Modelle und fortschrittliche technische Systeme gegenseitig fördern.

Ein kontinuierlich laufendes Flywheel funktioniert ungefähr so: Die Maschine zeigt im tatsächlichen Betrieb schlechte Leistungen, der Agent durchsucht die Betriebsdaten, um herauszufinden, wo das Problem liegt und warum es auftritt, oder erzeugt spezifische Szenarien, die diesen Mangel aufdecken; die Analyseergebnisse werden in Entwicklungsanforderungen umgewandelt, und die Anforderungen werden wiederum in Testfälle umgesetzt; die Testfälle werden zu validierter Software weiterentwickelt, die anschließend auf die Maschinengruppe bereitgestellt wird; die Maschinengruppe erzeugt neue Daten, die die Fähigkeiten des Modells verbessern, und die Fähigkeiten des Modells stärken wiederum die Leistung des Agenten, wodurch der nächste Zyklus beschleunigt wird. Früher dauerte jeder Zyklus mehrere Monate und erforderte die Beteiligung einer ganzen Reihe von Experten. Jede Phase, die von Agenten beschleunigt wird, spart nicht nur Zeit, sondern erhöht auch die Häufigkeit der Umdrehungen des Flywheels, wobei jede Umdrehung Geschwindigkeit und Intelligenz verzinst. Intelligentere Modelle lassen das Flywheel schneller drehen, und ein schnelleres Flywheel macht die Modelle wiederum intelligenter. Wenn die Branche Intelligenz als den gesamten Inhalt des Wettbewerbs betrachtet, verzichtet sie praktisch auf diesen riesigen zusammengesetzten Effekt.

Wir sind überzeugt, dass dieses Flywheel funktioniert, weil wir es bereits in unserem eigenen Geschäftsbetrieb umgesetzt haben. Applied Intuition erforscht die Spitzenbereiche der physischen Intelligenz seit zehn Jahren – einschließlich Wahrnehmung, Simulation, Validierung und gesamte Fahrzeugsoftware in den Bereichen Automobil, Lkw, Bergbau, Landwirtschaft und Verteidigung. Im vergangenen Jahr haben wir auf Basis dieser Infrastruktur eine Agentenplattform namens Dana aufgebaut. Unsere Ingenieure haben bereits Tausende von internen Anwendungen und Agenten darauf erstellt. Mit Dana hat sich der Entwicklungszyklus um etwa das 20-fache verkürzt, während die Qualität der Ergebnisse deutlich gestiegen ist. Die Bereitstellungshäufigkeit hat sich von früher einmal alle paar Wochen auf mehrmals täglich erhöht. Anwendungen, deren Erstellung früher Monate dauerte, lassen sich jetzt in wenigen Tagen oder sogar Stunden realisieren. Noch aufschlussreicher ist, dass Anwendungen, deren Umsetzung früher aufgrund zu hoher Investitionskosten nicht möglich war, jetzt zu regulären Entwicklungsprojekten werden. Wenn die Erstellungskosten um eine Größenordnung sinken, erweitert sich die Grenze der Dinge, die es wert sind, gebaut zu werden, um mehr als eine Größenordnung.

Intelligenz ermöglicht leistungsstarke technische Systeme, und technische Systeme lassen Intelligenz ihren wahren Wert entfalten. Beide sind unverzichtbar.

Was dies für die nächsten zehn Jahre bedeutet

Wenn die gesamte Branche weiterhin nur auf die Intelligenz selbst setzt, wird sich das nächste Jahrzehnt von Physical AI langsam entwickeln: Es wird voller blendender Demonstrationen, mehrjähriger Entwicklungsprojekte und einer zunehmenden Kluft zwischen den Fähigkeiten der Maschinen im Labor und ihren tatsächlichen Betriebsfähigkeiten in der realen Welt sein. Die Modelle werden dann hervorragend sein, aber die Bereitstellungskurve bleibt hartnäckig flach, da jeder technische Durchbruch darauf warten muss, von technischen Organisationen verarbeitet zu werden, die Veränderungen noch immer im alten Tempo aufnehmen.

Wenn man modernste Intelligenz mit Agenten-gestützten technischen Systemen kombiniert, wird diese Kurve einen Wendepunkt nach oben erreichen. Physical AI wird sein volles Potenzial entfalten: Landwirtschaftliche Betriebe können ihre Produktionskapazität trotz Arbeitskräftemangels und Klimaschocks stabil halten; Bergwerke erzielen einen kontinuierlichen und sichereren Abbaubetrieb; Frachtnetze können ihre Routen bei unerwarteten Ereignissen autonom anpassen; Verteidigungssysteme behalten ihre Kampffähigkeit unter beschädigten oder widrigen Bedingungen. Märkte im Umfang von mehreren hundert Milliarden Dollar bewegen sich auf denselben Technologie-Stack zu, und die geschlossene Lernschleife ist das Herzstück von all dem.

Software hat die Welt erobert, weil sie die Kosten für die Erstellung von Anwendungen in der digitalen Wirtschaft stark gesenkt hat. Physical AI wird denselben Prozess auf die physische Welt anwenden – vorausgesetzt, die Entwicklung intelligenter Maschinen erfolgt so schnell und iterativ wie die Erstellung von Software, ohne die Strenge zu opfern, die für sicherheitskritische Systeme erforderlich ist. Dies erfordert nicht nur die modernsten Modelle, sondern auch eine Umgestaltung unserer technischen Arbeitsweisen – und dieser zweite Teil wird von fast niemandem bisher