Vor dem Gespräch: Huang Qingqiu, der oberste Verantwortliche der KI für intelligentes Fahren bei Huawei: Die Datenqualität steht an erster Stelle, die Modellarchitektur an zweiter Stelle.

„Big Data ist der treibende Kraft des maschinellen Lernens“. Diese Schlussfolgerung von Li Feifei, der „Patin der KI“, wird von immer mehr KI-Praktikern akzeptiert und anerkannt. Darunter ist auch Huang Qingqiu, ehemaliger „Genie-Jugendlicher“ von Huawei und CTO von Moqi Intelligence.

Nachdem Moqi Intelligence eine Serie von Angel-Finanzierungen im Wert von über einer Milliarde Yuan abgeschlossen hat, traf 36Kr Huang Qingqiu in Shanghai. Er sagte zu 36Kr: „Wenn die Datenqualität unendlich hoch ist, kann selbst das einfachste Modell ausgezeichnete Ergebnisse erzielen.“

Unter den blendenden Geschichten zahlreicher Startups für verkörperte Intelligenz erscheint Huang Qingqius datenorientierter Lösungsansatz sehr schlicht und sehr pragmatisch.

Huang Qingqiu war der zweite „Genie-Jugendliche“ von Huawei. 2020 trat er in dieser Funktion dem Automobil-BU von Huawei bei und leitete die Abteilung für KI im autonomen Fahren. Während seiner Zeit bei Huawei leitete Huang Qingqiu nacheinander die KI-Umsetzung der Laserwahrnehmung und der Wahrnehmungsfusionssysteme voran und realisierte in der Phase von ADS 4.0 die KI-Umsetzung des gesamten Fahrassistenzsystems.

Darüber hinaus leitete er sein Team bei dem Aufbau der Datenengineering-Infrastruktur für das autonome Fahren von Huawei von Null auf Eins. Diese Arbeit wurde in der Zeit von ADS 2.0 gestartet und war „in Version 3.0 bereits weitgehend ausgereift“.

In der Ära von ADS 2.0 diente das von Huang Qingqiu aufgebaute Datensystem ausschließlich GOD (General Obstacle Detection Network). In der Ära von 3.0 versorgte es neben GOD auch alle statischen Wahrnehmungen, Ampeln und sogar Vorhersagen. In der Ära von 4.0 ist dieses Daten-Closed-Loop-System in der Lage, das gesamte End-to-End-System zu versorgen.

Genau diese Erfahrung, bei der er tief in das Datenengineering eingebunden war, hat ihm wertvolle Methodik für sein heutiges Unternehmertum im Bereich der verkörperten Intelligenz gesammelt.

Fast alle Gründer im Bereich der verkörperten Intelligenz stimmen zu, dass das Endziel der verkörperten Intelligenz die breite Einführung in Haushalte ist. Der wichtigste Grund, warum aktuelle verkörperte Roboter dies nicht erreichen können, liegt darin, dass die Generalisierungsfähigkeit der verkörperten Modelle unzureichend ist – mit anderen Worten: Das Gehirn des Roboters ist noch nicht intelligent genug.

Um das Problem der Intelligenz zu lösen, betrachtet Huang Qingqiu das Datenengineering als den Schlüssel zum Durchbruch. Nach Ansicht von Huang Qingqiu „sollte die Modellarchitektur so einfach wie möglich sein“, und „wenn die Datenqualität unendlich hoch ist, kann selbst das einfachste Modell ausgezeichnete Ergebnisse erzielen“.

Er erklärte 36Kr, dass das Wesen des Modells in der Kompression von Informationen und der Umwandlung von Modalitäten besteht. Die Obergrenze der Fähigkeiten eines Modells hängt von der Anzahl der Parameter ab. Die Verbesserungen, die Menschen an der Modellarchitektur vornehmen, dienen vor allem dazu, die Effizienz der Datenaufnahme durch das Modell zu verbessern, und haben einen relativ geringen Einfluss auf die Obergrenze der Modellfähigkeiten. Diese Effizienz kann durch mehr Daten und längere Trainingszeit ausgeglichen werden.

Daher schlägt Huang Qingqiu vor, dass in der aktuellen Phase, in der hochwertige verkörperte Daten knapp sind, die Priorität des Datenengineerings höher sein soll als die Innovation der Modellarchitektur.

Auf Basis dieser Erkenntnis hat Huang Qingqiu für Moqi Intelligence einen Daten-Flywheel aufgebaut:

Im Bereich der Datenerfassung hat Moqi Intelligence selbst entwickelte leichte tragbare Geräte entwickelt und viele Reinigungskräfte in verschiedenen gewerblichen Umgebungen wie Hotels oder Wohn- und Geschäftsappartements eingestellt, um Daten zu sammeln.

„Nach der Erfassung müssen wir eine strenge Filterung der Datenqualität durchführen. Da einige Daten ungenaue Aktionen oder unsachgemäße Trageweisen aufweisen können, müssen wir die gültigen Daten daraus herausfiltern.“

„Nach dem Filtern müssen wir sie klassifizieren, um sicherzustellen, dass wir trotz der riesigen Datenmengen genau die Daten abrufen können, die für das Training jedes einzelnen Modells benötigt werden.“

Nach der Klassifizierung führt das Unternehmen zudem eine automatische Annotation der Daten durch und markiert die Ground-Truth-Werte, die für das Training benötigt werden, bevor sie zum Training des Modells verwendet werden. Gleichzeitig hat Moqi Intelligence mehrere Schutzschichten entworfen, um das Modell in großem Maßstab zu bewerten. „Nach der Bewertung kehren wir zu den Szenarien zurück, die als nicht zufriedenstellend eingestuft wurden, um Daten neu zu erfassen und zu erschließen.“

Huang Qingqiu räumt ein, dass sein Konzept des Datenengineerings nicht ungewöhnlich ist. In naher Zukunft werden immer mehr Praktiker erkennen, dass die verkörperte Intelligenz „ein Daten-Closed-Loop-System ähnlich dem des autonomen Fahrens benötigt“.

Die Datenerfassungsmethoden der Branche entwickeln sich ebenfalls von der Fernsteuerung zur tragbaren Erfassung, da die Fernsteuerung sich gut für die schnelle Erstellung von Demos in spezifischen Szenarien eignet, aber nur begrenzte Generalisierungsfähigkeit aufweist.

Das bedeutet jedoch nicht, dass jedes Unternehmen das Daten-Closed-Loop-System gut umsetzen kann.

Huang Qingqiu sagte zu 36Kr, dass das, was das Daten-Closed-Loop-System bestimmt, manchmal genau „einige Detailprobleme“ sind.

Er nannte 36Kr das Beispiel der „Neupositionierung“ im autonomen Fahren. „Neupositionierung“ bedeutet, dass bei der Annotation von Ground-Truth-Werten, wenn zwei Fahrten denselben Ort passieren, das Unternehmen hofft, dass das zweite Fahrzeug die zuvor annotierten Daten wiederverwenden kann – was aber nicht immer gelingt. Dies erfordert, dass die Positioniergenauigkeit des zweiten Fahrzeugs und des ersten Fahrzeugs hoch genug ist, um eine strenge Übereinstimmung zwischen ihnen zu gewährleisten. Viele Unternehmen „können jedoch keine zentimetergenaue Neupositionierung erreichen“.

In dem Daten-Closed-Loop-System gibt es Tausende solcher Details. Jedes Detail muss bis zur Perfektion umgesetzt werden, und jedes Detail kann dazu führen, dass die Leistungsunterschiede zwischen den Unternehmen größer werden. Huang Qingqius tiefgreifendes Verständnis des Datenengineerings stammt genau aus seiner Erfahrung im autonomen Fahren. In seinem technischen Konzept ist das Daten-Closed-Loop-System die grundlegende Basis, und die selbst entwickelte native verkörperte Modell ist der unvermeidliche Schritt, um den Wert der Daten zu maximieren.

Bei der Wahl der technischen Route für Modelle möchte Huang Qingqiu das Modell von Moqi Intelligence nicht mit den Labels „Weltmodell“ oder „VLA“ versehen. Seiner Meinung nach sollten zwei Punkte im Vordergrund stehen: Erstens, was die Eingaben und Ausgaben sind, und zweitens, ob das End-to-End-Trainingsparadigma eingehalten wird. Solange diese beiden Grundlagen fest verankert sind, können die Trainingsmethoden für Modelle jederzeit ausgetauscht werden. Sowohl VLA als auch Weltmodell sind „im Wesentlichen nur phasenweise Werkzeuge und Plugins“.

Huang Qingqius Konzept ist es, dass Moqi Intelligence in Zukunft unbedingt sein eigenes Vortraining durchführen und ein natives verkörpertes Modell entwickeln wird.

Bevor diese Phase erreicht wird, wird Moqi Intelligence zuerst durch Nachtraining schnell Erfahrungen mit echten Geräten und Systemkapazitäten sammeln. „Diese Phase ist bereits abgeschlossen.“ Derzeit führt Moqi Intelligence Vortrainings auf Basis von Open-Source-Modellen durch. Wenn bis Ende dieses Jahres genügend Daten gesammelt wurden, wird das Unternehmen sein natives Modell von Grund auf neu trainieren.

In der Branche des autonomen Fahrens, die als eng mit der verkörperten Intelligenz verbunden gilt, haben bereits führende Unternehmen wie Momenta in gewissem Maße die Machbarkeit des Weges zur Erreichung von Intelligenz durch Datenengineering bestätigt. Ob dieser Weg auch in der Branche der verkörperten Intelligenz anwendbar ist, muss noch von mehr Startups für verkörperte Intelligenz überprüft werden.

Im Folgenden das vollständige Gespräch zwischen 36Kr und Huang Qingqiu, Mitbegründer und CTO von Moqi Intelligence, der Inhalt wurde redaktionell bearbeitet:

Über die Erfahrung im autonomen Fahren: Huawei hat VLA getestet und es erst ausgesetzt, nachdem festgestellt wurde, dass es nicht so gut funktioniert wie das VA-System

36Kr Auto: Wie hat sich die KI-Umsetzung von Huawei ADS entwickelt?

Huang Qingqiu: Die ersten Bereiche, die Huawei auf KI umgestellt hat, waren die visuelle Wahrnehmung und die Laserwahrnehmung. Als ich 2020 eingetreten bin, habe ich genau daran gearbeitet, etwa Ende 2020 bis Anfang 2021. Das Ergebnis wurde schließlich im Fahrzeug Arcfox eingesetzt.

Damals haben wir die mechanischen Lidare durch halb-feste-state Lidare ersetzt, also die kleinen „Kappen“, die man heute auf Autos sieht. Anfangs wurden die mechanischen Lidare, die sich auf dem Dach drehten, verwendet. Nach dem Wechsel zu halb-festen-state Lidaren stellte sich heraus, dass die Leistung des ursprünglichen Algorithmus stark zurückging. Deshalb wurde ich beauftragt, dieses Problem zu lösen.

In ADS 1.0 war meine Hauptaufgabe also die vollständige KI-Umsetzung der Laserwahrnehmung. Nach der KI-Umsetzung stellten wir tatsächlich fest, dass die Ergebnisse sehr gut waren, was uns bestärkte, später unbedingt eine Multisensor-Fusion durchzuführen und eigene Lidare zu entwickeln.

Bei ADS 2.0 begannen wir mit der KI-basierten Fusionswahrnehmung, bei der die zuvor jeweils auf KI umgestellten Laser- und visuellen Wahrnehmungen zu einem KI-Modell für die gesamte Zielwahrnehmung zusammengeführt wurden.

Damals nannten wir es BEV-Vorfusionswahrnehmung, mit zwei Schlüsselwörtern: Vorfusion und BEV. Vorfusion bedeutet, dass visuelle Daten und Laserdaten vollständig in das neuronale Netz eingespeist werden, sodass das neuronale Netz selbst entscheidet, welchen Daten es vertraut. BEV dient dazu, einen einheitlichen Ausdrucksraum für die Wahrnehmung zu schaffen.

Damit wurde die gesamte Zielwahrnehmung auf KI umgestellt, und die statische Wahrnehmung folgte ebenfalls dem BEV-Konzept, sodass es zwei Netzwerke für dynamische und statische Objekte gab. Gleichzeitig haben wir in der 2.0-Ära die hochpräzisen Karten abgeschafft und als erstes Unternehmen erreicht, dass das System im gesamten Land eingesetzt werden kann.

Bei ADS 3.0 wurde GOD vollständig eingeführt. Nach dem Upgrade von BEV auf GOD konnte das ursprüngliche System nur Objekte wie Autos und Personen aus der Whitelist wahrnehmen. In der GOD-Ära kann es alle Hindernisse erkennen – selbst einen Sack oder ein Stück Eisen, das auf dem Boden liegt. Damit wurde die KI-Fähigkeit der gesamten Wahrnehmung weiter verbessert.

Dann haben wir bei ADS 4.0 noch einen Schritt weiter gemacht, die Wahrnehmung und die Planung & Steuerung zusammengeführt und mit dem End-to-End-Training begonnen. Damit wurde das gesamte System auf KI umgestellt.

Es begann mit kleinen Punkten – zuerst wurden Laser und visuelle Wahrnehmung auf KI umgestellt, dann die gesamte Fusionswahrnehmung, schließlich wurde die Planung & Steuerung integriert, sodass das gesamte System zu einem KI-Modell wurde.

36Kr Auto: Also von der KI-Umsetzung eines einzelnen Punkts zu einem zweistufigen und schließlich zu einem einstufigen System. Du hast gerade erwähnt, dass das System im gesamten Land eingesetzt werden kann – das ist eine Aussage, die Yu Chengdong öffentlich propagiert hat. Hat die offensive Produktvermarktung von Huawei Endgerät deinen späteren technischen Entwicklungsrhythmus beeinflusst?

Huang Qingqiu: Ich denke, der Einfluss ist definitiv groß. Damit ein Produkt erfolgreich wird, ist Technik nur ein Aspekt – das Geschäft ist ebenso wichtig.

Zum Beispiel der Grund, warum wir später GOD und das End-to-End-System entwickeln konnten, liegt vor allem darin, dass wir über Daten verfügen. Die Voraussetzung für Daten sind Fahrzeuge, und die Voraussetzung für Fahrzeuge ist, dass sie verkauft werden. Alles hängt also eng zusammen.

Der Durchbruch von Huawei Intelligent Driving erfolgte bei ADS 2.0. Damals haben wir nicht nur technisch erreicht, dass das System im gesamten Land funktioniert, die oben genannte Vorfusion realisiert und die sichere Hindernisvermeidung optimiert, sondern das Fahrzeug AITO M7 hat sich in dieser Phase auch sehr gut verkauft. Sowohl die Technik als auch die Kommerzialisierung haben in dieser Phase große Fortschritte gemacht.

36Kr Auto: Ich fahre oft mit Huawei ADS und kann spüren, dass das Erlebnis bei jeder Generation linear zunimmt. Bei manchen Automobilherstellern schwankt das Erlebnis aber stark – bei einem Generationswechsel der Technik sinkt das Niveau wieder. Was ist der Grund dafür?

Huang Qingqiu: Ich sehe zwei Gründe dafür. Erstens sind die Freigabestandards von Huawei sehr streng. Egal welche Technik verwendet wird, der endgültige Freigabestandard hängt von Benutzererfahrung und Sicherheit ab.

Wir durchlaufen interne Testprozesse von Komponententests über Simulationstests bis hin zu Generalisierungstests mit echten Fahrzeugen und schließlich Tests mit Beta-Benutzern, die mehrere Monate dauern können. Nur streng getestete Versionen werden veröffentlicht, um sicherzustellen, dass jede veröffentlichte Version zuverlässig ist und gegenüber der vorherigen Generation verbessert wurde. Das ist der erste Punkt: ein sehr strenges Qualitätskontrollsystem.

Zweitens ist Huawei insgesamt sehr pragmatisch. Wir nutzen keine Technik nur weil sie fancy ist.

Als das VLA-Konzept in der Branche populär wurde, haben wir es intern auch nicht ausgelassen. Es gab interne Forschungsgruppen, die VLA getestet und es ständig mit dem VA-basierten End-to-End-System verglichen haben.

Das Ergebnis des Vergleichs zeigte, dass VLA zwar eine größere Parameteranzahl nutzt, aber keinen zusätzlichen Nutzen bringt. Bei gleicher Rechenleistung schneidet es sogar schlechter ab als das VA-System.

Auf dieser Grundlage haben wir festgestellt, dass das VLA-Konzept zwar in der Industrie und der Wissenschaft viel Aufmerksamkeit erhält, aber in der aktuellen Phase nicht wirklich das ist, was das autonome Fahren braucht.

Über Datenengineering: Wenn die Datenqualität unendlich hoch ist, kann selbst das einfachste Modell ausgezeichnete Ergebnisse erzielen

36Kr Auto: Ich habe in deinen früheren Interviews gelesen, dass du großen Wert auf Daten legst. Warum sprechen heute kaum noch Menschen über Modellarchitekturen oder technische Routen, sondern nur noch über Daten? Sind Daten der Schlüssel zur Lösung des Problems?

Huang Qingqiu: Zuerst einmal ist der Arbeitsaufwand für die Datenverarbeitung größer als für die Änderung der Modellarchitektur. Denn Daten erfordern eine sehr detaillierte Analyse. Selbst im Bereich des autonomen Fahrens hat man zu Beginn 10 Millionen Clips oder Daten im Umfang von 100.000 Stunden. Es gibt sehr viele Details, sodass man viel Zeit für die gründliche Analyse aufwenden muss.

Bei Modellen hingegen kann man eine Strukturänderung in einer Stunde durchführen, danach läuft das Experiment. Sobald das Experiment abgeschlossen ist, analysiert man die Ergebnisse. Der menschliche Arbeitsaufwand ist nicht sehr groß – man braucht eher Inspiration und genügend GPUs (Rechenleistung), um die Experimente durchzuführen.

Zweitens denke ich, dass Daten in der aktuellen Phase tatsächlich wichtiger sind. Wenn die Datenqualität unendlich hoch ist, kann selbst das einfachste Modell ausgezeichnete Ergebnisse erzielen. Die Verbesserungen, die wir an der Modellarchitektur vornehmen, dienen vor allem dazu, die Effizienz der Datenaufnahme zu steigern. Ihr Einfluss auf die Obergrenze der Modellfähigkeiten ist nicht sehr groß