Plötzliches automatisches Bremsen während der Fahrt, die „empfindliche Haut“ des intelligenten Fahrens treibt die Fahrzeughalter fast in den Wahnsinn ...

Heute, wo sich das intelligente Fahren entwickelt hat, ist das Schwierigste nicht, dem Fahrzeug beizubringen, wie es losfährt, sondern wie es anhalten soll.

Sie sitzen in einem Fahrzeug, das reibungslos im intelligenten Fahrmodus fährt, die Verkehrsverhältnisse vor Ihnen sind weitläufig, die Sonne scheint hell, und die blaue Linie auf dem Zentralbildschirm erstreckt sich gleichmäßig. Plötzlich und ohne Vorwarnung bremst das Fahrzeug mit einem brutalen „tödlichen Notstopp“: Der Sicherheitsgurt spannt sich sofort fest, das Mobiltelefon auf der Rückseite fliegt gegen die Windschutzscheibe, und draußen vor dem Fenster ist nichts zu sehen.

Das ist genau das gespenstischste Szenario, das unzählige Autobesitzer im intelligenten Fahrbetrieb erleben: das sogenannte „Geisterbremsen“.

In den letzten Jahren hat sich die intelligente Fahrtechnik von der Anhäufung von Coderegeln zu einem „End-to-End“-System weiterentwickelt, das die menschliche Intuition nachahmt, und beginnt sogar, ein „Weltmodell“ aufzubauen. Aber all diese aufsehenerregenden technischen Entwicklungen scheinen in dem winzigen Moment steckengeblieben zu sein: Wann genau sollte das Fahrzeug am besten bremsen?

Hinter unzähligen solchen schwer zu beurteilenden feinen Momenten steckt nicht nur ein technisches Problem, sondern auch ein Vertrauensproblem. Auf der einen Seite stehen Automobilhersteller, die auf ein exponentielles Wachstum der gefahrenen Kilometer hoffen, auf der anderen Seite Nutzer, die bei kleinsten Fehlern das Vertrauen vollständig verlieren. Wenn die Entwicklung einer neuen Technologie mit der Sicherheit der Nutzer zusammenhängt, wie kann man dann zwischen Technik und Vertrauen abwägen?

Woher stammt der „Geist“ des Geisterbremsens?

Wenn das intelligente Fahren zu „dummem Fahren“ wird, beginnt das meist damit, dass das Fahrzeug nicht mehr richtig bremsen kann.

Nehmen wir mein erstes Erlebnis mit einem Robotaxi als Beispiel: Vor etwa drei Jahren habe ich zum ersten Mal ein Robotaxi eines großen inländischen Herstellers ausprobiert. Nachdem wir eine Runde gefahren waren und das Fahrzeug zurück zur Ausgangsposition fuhr, erschien am Straßenrand ein Fußgänger. Der Fußgänger war eigentlich noch sehr weit von dem Fahrzeug entfernt, aber das Fahrzeug bremste plötzlich scharf, so stark, dass ich auf dem Rücksitz, der gerade aufnahm, mein Mobiltelefon wegschleuderte.

Dieses Phänomen wird als „Geisterbremsen“ bezeichnet, eine Art „Verfolgungswahn“, an dem das intelligente Fahren leidet. Es ist die häufigste Beschwerde über intelligente Fahrsysteme auf Foren im In- und Ausland wie X, Reddit und Xiaohongshu.

Ein Besitzer eines intelligenten Autos im Inland beschwerte sich bei mir: Beim Spurwechsel auf der Autobahn streifte ein anderes Fahrzeug von rechts vorbei. Erst als dieses Fahrzeug bereits einige Sekunden vorausgefahren war, reagierte sein eigenes Auto mit dem Bremsvorgang. Solche Bremsfehler aufgrund von Zögerlichkeit beim Spurwechsel treten auch bei FSD häufig auf. Ein Blogger auf Reddit, der speziell Teslas FSD testet, hat einmal einen Beitrag veröffentlicht und sich beschwert: Wenn FSD abbiegt, blinkt der Blinker lange Zeit, zögert aber, den Spurwechsel durchzuführen, und wechselt erst dann die Spur, wenn das nachfolgende Fahrzeug ungeduldig überholt – das ist sehr gefährlich.

Einige Nutzer beschweren sich, dass FSD bei Stoppschildern nicht weiß, in welcher Entfernung es am besten anhalten soll, oft schon weit im Voraus bremst und dann schrittweise vorrückt, was extrem „dumm“ wirkt. Andere weisen darauf hin, dass bei schlechten Sichtverhältnissen wie in der Dämmerung oder in der Morgendämmerung FSD häufig „Geisterbremsen“ durchführt oder sogar die Steuerung direkt an den Fahrer zurückgibt...

Zusammengefasst aus dem Sicherheitsbericht von Waymo, Daten der NHTSA und Analysen des Drittversicherers ConsumerShield sind die drei Szenarien mit der höchsten Unfallrate bei intelligentem Fahren derzeit: fehlgeschlagener Spurwechsel an komplexen Kreuzungen, Geisterbremsen und fehlgeschlagene Verarbeitung plötzlich auftauchender Objekte wie „Geisterpassanten“. Im Grunde genommen liegt das alles daran, dass das System nicht weiß, wann es bremsen darf.

Warum ist es schwieriger, einem Fahrzeug beizubringen, wann es bremsen soll, als ihm beizubringen, loszufahren? Das liegt nicht an unzureichender Rechenleistung, sondern daran, dass der Bremsvorgang im Wesentlichen keine mechanische Ausführung ist, sondern ein Glücksspiel um „Vorhersage“.

Der grundlegende Unterschied zwischen menschlichen Fahrern und cybernetischen Fahrern besteht darin, dass Menschen die Absichten anderer sehr leicht beurteilen können.

Wenn ein Mensch einen Fußgänger am Straßenrand sieht, der auf sein Handy schaut, wird er vorhersagen, dass dieser höchstwahrscheinlich nicht losläuft. Wenn er jemanden sieht, der unruhig blickt und unsicher auftritt, wird er vorhersagen, dass diese Person möglicherweise betrunken plötzlich auf die Fahrbahn tritt. Aber die meisten intelligenten Fahrsysteme berechnen nur auf der Grundlage der Bewegungsgeschwindigkeit und -richtung von Objekten. Erst wenn der Fußgänger tatsächlich herauskommt und eine seitliche Geschwindigkeit hat, beginnt es, die Kollisionswahrscheinlichkeit zu berechnen. Die „Verzögerung bei der Berechnung“ zusammen mit der mechanischen Ausführungszeit führt oft zu dem Gefühl, dass das System erst dann stark bremst, wenn der Unfall fast passiert.

Aber das ist für mechanische Fahrer sehr schwierig. In der Logik der Ingenieure steht das intelligente Fahrsystem ständig vor einer grausamen Wahl: Soll es „fälschlicherweise bremsen“ oder „fälschlicherweise nicht bremsen“?

Wenn man für absolute Sicherheit die Empfindlichkeit von Radar und visueller Wahrnehmung auf das Maximum einstellt, dann kann eine Plastiktüte, die am Straßenrand im Wind weht, ein Lichtreflex auf einer Pfütze auf dem Kanaldeckel oder sogar eine Rauchwolke, die aus dem Auspuff eines vorausfahrenden Lastwagens strömt, im „Auge“ des Systems zu einem harten Felsbrocken werden. Um das Überleben zu sichern, kann das Fahrzeug nur rücksichtslos voll bremsen – das ist der Ursprung des „Geisterbremsens“.

Auf dem entgegengesetzten Extrem: Wenn man für mehr Fahrkomfort und Verkehrseffizienz die Empfindlichkeit der Wahrnehmung senkt und Signale herausfiltert, die wie „Störgeräusche“ aussehen, dann kann das System zuversichtlich glauben, dass es vorne keine Hindernisse gibt, wenn ein stehender weißer Lieferwagen mitten auf der Fahrbahn steht oder ein Fußgänger in dunkler Kleidung in der Dunkelheit plötzlich auf die Fahrbahn tritt – was schließlich zu einer Katastrophe führt.

Menschliche Fahrer verfügen über ein „physisches Intuitionsvermögen“ auf der Grundlage von Allgemeinwissen. Wir können auf einen Blick erkennen, dass es kein Problem ist, in eine wehende Zeitung hineinzufahren. Aber Maschinen haben dieses Allgemeinwissen nicht. In ihrer Welt sind das nur unbekannte „Hindernisse“, die Raum-Voxel belegen.

Wer hat diese so schwere Aufgabe gestellt, dass man nirgendwo die richtige Antwort findet?

Um dem Maschinenmodell dieses „physische Intuitionsvermögen“ beizubringen, hat das intelligente Fahren viele Wege ausprobiert.

Ursprünglich teilten die traditionellen Lösungen für die intelligente Fahrforschung das Fahren in drei Schritte auf: Wahrnehmung, Planung und Entscheidungsfindung. Informationen werden wie ein Staffelstab zwischen diesen Modulen weitergegeben: Die Wahrnehmungsebene sagt: 10 Meter vorne befindet sich ein Hindernis mit einer Konfidenz von 80%.

Die Vorhersageebene sagt: Dieses Ding scheint sich nicht zu bewegen.

Die Entscheidungsebene schaut sich die 502. Regel an, die von Programmierern geschrieben wurde: Wenn sich vorne ein stehendes Hindernis befindet, bremse sofort.

Die Steuerungsebene führt den Befehl aus: Vollbremsung.

Aber bei der Regelung und Steuerung tritt immer ein Problem auf: Viele Situationen haben keine optimale Lösung.

Nehmen wir ein Beispiel: Das Fahrzeug muss jetzt rechts abbiegen, aber rechts läuft ein Fußgänger. Der Fußgänger ist noch ein Stück von dem Fahrzeug entfernt. Wenn ein menschlicher Fahrer einem Anfänger das Fahren beibringt, kann er in dieser Situation entweder mit Gas vorbeifahren oder warten, bis der Fußgänger vorbeigegangen ist. Diese „je nach Situation entscheidbare“ Möglichkeit ist für Menschen sehr einfach, aber für maschinelles Lernen sehr kompliziert. Denn daraus ergibt sich die nächste Frage: In welchen Situationen soll man vorbeifahren, in welchen Situationen soll man warten?

Die traditionelle Regelung und Steuerung erledigt genau diese Aufgabe, „spezifische Probleme spezifisch zu analysieren“: Alle auftretenden Corner Cases (extreme Situationen in speziellen Szenarien) werden manuell markiert, um der Maschine zu sagen, was sie tun soll. Das führt zu zwei weiteren Problemen: 1. Was ist, wenn man nicht alle Corner Cases erfassen kann? 2. Was ist, wenn der Code zu umfangreich ist und zu viele Arbeitskräfte benötigt?

Das Phänomen des „Geisterbremsens“ entsteht sehr leicht bei traditionellen Forschungsmethoden, weil es immer Situationen gibt, in denen „dieser Fall noch nicht verarbeitet wurde, also weiß man nicht, was am besten zu tun ist“.

Elon Musk, der nach dem „ersten Prinzip“ arbeitet, hat den traditionellen Entwicklungsweg umgestoßen und eine andere Lösung vorgeschlagen: Wenn ich die Maschine direkt so denken lassen kann wie ein Mensch, anstatt ihr jeden einzelnen Corner Case manuell beizubringen, kann ich das ursprüngliche Ziel des intelligenten Fahrens wirklich erreichen.

So veranstaltete Elon Musk im Sommer 2023 in Palo Alto, Kalifornien, einen FSD-Livestream mit nicht sehr hoher Bildqualität. Was die Branche wirklich schockierte, war nicht die Bildqualität, sondern der Satz, den er sagte: „FSD v12 hat keine einzige Codezeile, die dem Fahrzeug sagt, was eine rote Ampel oder was eine Kreuzung ist. Wir haben mehr als 300.000 Zeilen C++-Steuerungscode gelöscht.“

Seitdem ist das End-to-End-Prinzip allmählich zur Hauptlösung für die Umsetzung des intelligenten Fahrens geworden.

Nach der Einführung des End-to-End-Prinzips wurde die gesamte Abteilung für Regelung und Steuerung des FSD-Teams aufgelöst. Die ursprüngliche Leitungsperson verließ das Unternehmen, und die verbleibenden Mitarbeiter wechselten zu Aufgaben der Datenbereinigung und Szenarioerkundung. Das Team wurde aus den vier alten Bereichen Wahrnehmung, Regelung und Steuerung, Karten und Tests vollständig aufgelöst und zu drei neuen Bereichen zusammengefasst: „Einzelmodell + Datentechnik + Cloud-Training“.

Bis 2024 ist das End-to-End-Prinzip allmählich zum Konsens in der Branche geworden. Die Forschungs- und Entwicklungsteams für intelligentes Fahren von Huawei, Xpeng, Li Auto, Baidu und anderen begannen nacheinander mit Umstrukturierungen: Xpeng hob die ursprünglichen drei Abteilungen für Wahrnehmung, Regelung und Steuerung sowie Karten auf und schuf drei neue Bereiche: „KI-Modellentwicklung, KI-Anwendung und KI-Effizienz“. Die Organisationsstruktur von ADS 3.0 wurde im Mai 2024 fertiggestellt, die Abteilungen für Wahrnehmung, Regelung und Steuerung sowie Karten wurden in die „End-to-End-Architekturabteilung“ integriert, die direkt von Yu Chengdong geleitet wird. Bei Baidu laufen derzeit zwei parallele Wege: Ein Teil der Mitarbeiter arbeitet im traditionellen Algorithmenteam, außerdem wurde ein ADFM-Team gegründet, dem einige Mitarbeiter aus der ursprünglichen Wahrnehmungsabteilung zugeteilt wurden, und weitere Mitarbeiter wurden eingestellt.

Das sogenannte „End-to-End“ bedeutet, dass das Fahren nicht mehr in „Wahrnehmung, Entscheidungsfindung und Steuerung“ unterteilt wird, sondern alle diese Glieder zu einem riesigen neuronalen Netzwerk verschmelzen. Die Eingabe ist der rohe Videostrom, der von der Kamera aufgenommen wird, die Ausgabe ist direkt der Winkel des Lenkrads und die Stärke des Gaspedals und der Bremse. Was passiert dazwischen? Es gibt keine von Programmierern geschriebenen Codes wie „bei rotem Licht anhalten, bei grünem Licht fahren“ mehr, sondern eine Black Box mit Milliarden von Parametern führt rasante Berechnungen durch.

Das