Können Roboter Blumen arrangieren und Menschen retten, aber können sie dann sicher in Ihr Zuhause kommen?

Die Batterie trug eine außergewöhnliche Marathonlaufmeisterschaft voran; die Roboter schwingen ihre Stahlfäuste und messen sich auf der Kampfsportarena in Bezug auf ihre Bewegungssteuerungsfähigkeit … Im ersten Halbjahr dieses Jahres haben eine nach der anderen Embodied-AI-Wettbewerbe die Aufmerksamkeit der Zuschauer stark auf sich gezogen. Im zweiten Halbjahr hat Zhipu Robotics die 5.000. Universal-Embodied-Roboter ausgeliefert, und Ubtech hat mit der Massenproduktion und -auslieferung begonnen … Die Embodied AI hat nun vollständig die Phase des massenhaften kommerziellen Einsatzes betreten.

Wo kann die Embodied AI überhaupt angewendet werden? Wie weit ist sie noch von einer sicheren Umsetzung entfernt? Die Antworten liegen vielleicht auf der Global Developer Pioneer Conference & International Embodied AI Skills Competition 2025 (im Folgenden als GDPS 2025 bezeichnet), die am 12. Dezember eröffnet wird.

Blumensträuße von Robotern

Den Sturm auf den "Flammenberg"

Betritt man den ersten Stock der Zhangjiang Science Hall, wird man von mehreren Dutzend Embodied-Robotern unterschiedlicher Formen begrüßt, die gerade eine dynamische Demonstration durchführen; die Zuschauer interagieren voller Elan mit der Kamera und steuern aus der Ferne die geschickten Roboterarme, die eine verspielte "Yippie"-Geste machen; in der Glaskolonne in der Mitte steht der humanoide Roboter wie ein sorgfältig aufbewahrtes "Zukunftspräparat", wobei alle Kernkomponenten allseitig sichtbar sind, und das Zusammenspiel von Metallglanz und präziser Struktur vermittelt einen cyberpunkartigen Eindruck.

Bewegt man sich zwischen den Ausstellungsständen, findet man Wettbewerbe in sechs Szenarios: industrielle Fertigung, öffentlicher Dienst, häusliche Dienste, Notfallrettung, medizinische Versorgung und Pflege sowie geschickte Roboterhände. "Bringen Sie die roten Rosen in den Blumenkrug." Im Blumensträuße-Wettbewerb des öffentlichen Diensteszenarios müssen die teilnehmenden Roboter innerhalb einer festgelegten Zeitspanne anhand von Sprachbefehlen die verschiedenen Blumensträuße auf dem Tisch erkennen und sie präzise in den Blumenkrug stecken.

Der Mitarbeiter erklärt, dass dieser Wettbewerb die Fähigkeit zur kombinierten Anwendung von mehreren Kerntechnologien wie der Befehlsfolge des VLA (Visual Language Action)-Modells, der multimodalen Wahrnehmung, der Steuerung und Ausführung der geschickten Roboterhand sowie der Wahrnehmung des Kraftsensors prüft. "In Zukunft wird diese Technologie in alltäglichen Szenarien wie der Paketauswahl, der präzisen Anordnung von Gegenständen und der Blumensträuße im Blumenladen angewendet."

Wendet man den Kopf, wird der Blick von der Notfallrettungsarena, die die größte Fläche auf der gesamten Bühne einnimmt, festgehalten. Auf der 10m x 30m großen Simulationsstrecke liegen Barrieren wahllos auf der Straße verteilt, Steilhänge und Treppen querziehen sich darüber, Haufen von Steinen liegen verstreut, und am auffälligsten sind die Flammenpfähle, aus denen rote virtuelle Flammen schießen, was die Dringlichkeit und die Gefahr einer Katastrophenszene wiederherstellt.

Die Embodied-Roboter bewegen sich in diesem "gefährlichen Gebiet" hin und her, tragen Rettungsmaterial sicher voran, überwinden präzise die zahlreichen Hindernisse und planen für die Rettungskräfte eine klare Navigationsroute.

Die Industrie ist das Szenario, in dem die Embodied AI derzeit zuerst angewendet wird. Vor Ort finden mehrere kleine Wettbewerbe gleichzeitig statt. Im Transportwettbewerb müssen die teilnehmenden Roboter von einem festgelegten Startpunkt aus autonom in der Lagerumgebung navigieren, die Waren auf den Regalen greifen und sie auf das Förderband bringen; im Montagewettbewerb ist die genaue Drehmomentsteuerung, die beim Finden, Zuordnen und Anziehen von Schrauben und Muttern erforderlich ist, die zentrale Herausforderung für die Empfindlichkeit der Robotersensoren und die Stabilität der Ausführungseinheit.

Die Wettbewerbe in verschiedenen Szenarien scheinen auch eine Entwicklungspfade für die Embodied-AI-Branche klar zu zeichnen. Wenn die Roboter im Blumensträuße-Wettbewerb die Bedeutung verstehen können, in der Notfallrettungsarena auf plötzliche Situationen reagieren können und in der Industriearena die Genauigkeit kontrollieren können, rücken sie Schritt für Schritt ihrem "Endziel" näher, nämlich die repetitive Arbeit auf der Fabrikband zu ersetzen, älteren Menschen im Haushalt zu helfen und an der Spitze in Katastrophengebieten zu sein.

Die Embodied AI tritt in das tägliche Leben ein

Ist es wirklich sicher?

Während der Wettbewerb in vollem Gange war, fiel plötzlich mit einem lauten "Bumm" ein humanoider Roboter, der seine Gehfähigkeit testete, schwer auf den Boden, und die Kopfschale brach sofort, und die Teile liegten zerstreut umher.

Dieser Anblick ließ die vorherige lebhafte Diskussion vor Ort plötzlich erkalten und rückte die Sicherheitsprobleme der Embodied AI in realen Szenarien in den Mittelpunkt des Interesses. Tiefere Fragen wie "Wird mein Roboter jemanden schlagen?" und "Kann er von Hackern manipuliert werden?" tauchen auch auf.

Dies ist keine Schreckgespenstergeschichte.

Am 24. Oktober auf der Bühne des "GEEKCON2025" Security Geek Competition haben zwei "weiße Hacker" den humanoiden Roboter G1 von Unitree Technology getestet. Sie haben zunächst einen an das Netz angeschlossenen Roboter "gehackt" und dann mit diesem übernommenen Roboter einen anderen nicht an das Netz angeschlossenen Roboter "infiziert". Unter der Manipulation der Hacker ging der "infizierte" Roboter direkt zu einer Puppe, schlug heftig mit der Faust und warf sie um.

Ein anderes Robotertier von Unitree wurde ebenfalls "gehackt". Nachdem der "Hacker" die Systembeschränkungen des Herstellers überwunden hatte, begann das Robotertier Sprünge zu machen, die mit dem Fernbedienungsgerät normalerweise nicht möglich waren, und gab sogar herausfordernd die Drohung von Mund: "Die Roboter befreien die Menschen!"

"In der gegenwärtigen Phase gibt es zwar Forschungen zur Sicherheit der Embodied AI, aber es fehlt immer noch an systematischen Praktiken." Zhu Xiaohu, der Gründer des Center for Safe and General Artificial Intelligence (CSAGI), sagte einem Reporter der IT Times, dass die Sicherheitsprobleme im Bereich der Embodied AI nicht nur physische Schäden und Hackereingriffe umfassen, sondern als zukünftige Branche auch Risiken wie Datenschutz und unangemessene emotionale Ethik mit sich bringen werden.

Die schwächste Sicherheitslücke des aktuellen Large Language Model (LLM) ist seine "Black-Box"-Eigenschaft, d. h., wenn man eine Daten eingibt, kann das LLM direkt eine Antwort ausgeben, aber niemand weiß, wie es funktioniert.

Viele innere Mechanismen des LLM basieren auf neuronalen Netzen und maschinellem Lernen. Beispielsweise werden sie durch Trainingsmethoden wie Gradientenabstieg optimiert. Aber die inneren Verbindungen und Gewichte fehlen derzeit noch an effektiven und skalierbaren Forschungsmethoden, um sie zu verstehen. Dies führt dazu, dass die generierten Inhalte beim Einsatz der LLM-Technologie oft für die Benutzer nicht vollständig verständlich sind, und als das Gehirn der Embodied AI erhöht es weiter das Risiko der Embodied AI in Anwendungszenarien.

Derzeit kann man im Bereich der KI-Sicherheit nur durch technische Mittel "stopfen" anstatt "ableiten", und es sind zahlreiche Inhaltsüberprüfungen und -filterungen erforderlich. Bei der Datenschutz gibt es bereits bewährte Sicherheitstechnologien wie Open-Source-Architekturen und Wasserzeichenmethoden für Modelle. Man kann die Daten mit Wasserzeichen versehen, um die risikoreichen Daten und die Verantwortlichen nachverfolgen und effektiv die "Ausbruch"-Angriffe des Modells (d. h. das Umgehen der Sicherheitsmechanismen des LLM, um es zu veranlassen, verbotene Befehle zu generieren oder auszugeben) zu verhindern.

Darüber hinaus ist der Schutz der Netzwerksicherheit relativ schwach. Hacker können über Bluetooth, Wi-Fi usw. in das LLM eindringen, aber es gibt derzeit keine guten technischen Mittel, um dies zu verhindern. Dies erfordert die Entwicklung von systematischen Lösungsansätzen für verschiedene Anwendungszenarien und die klare Zuordnung von Verantwortlichkeiten in Verbindung mit dem Gesetz, um die Sicherheitsgarantie für die gesamte Wertschöpfungskette weiter zu verbessern.

Zeng Meiying, die Person in Charge des Markting und Betriebs des Guodi Center, gestand gegenüber dem Reporter, dass die Embodied AI in Szenarien wie der Industrie, Supermärkten und Logistik zuerst umgesetzt werden wird, aber es wird noch 5 bis 10 Jahre dauern, bis sie sicher in Haushalten eingesetzt werden kann.

Dieser Artikel ist aus dem WeChat-Account "IT Times" (ID: vittimes) übernommen. Autor: Shen Yibin. Veröffentlicht von 36Kr mit Genehmigung.