Warum fallen persönliche KI-Agenten ständig aus? 9 Elite-Universitäten haben einen 126-seitigen Fahrplan für „ständig online betriebene intelligente Agenten“ veröffentlicht.
Persönliche intelligente Agenten erleben eine beispiellose intensive Explosion.
Im Ausland greifen führende KI-Labore nacheinander ein und bringen Schwergewichtsprodukte wie Muse, dots, Claude Duet, Grok Bot, Gemini Daily Brief auf den Markt. Sie warten nicht mehr passiv darauf, dass Nutzer Fragen stellen: Einige arbeiten nach Ende des Dialogs weiterhin still in der Cloud, andere liefern jeden Morgen pünktlich angepasste Berichte, wieder andere prüfen die zugehörigen Konten des Nutzers automatisch alle paar Stunden.
In China folgen Großkonzerne wie Tencent, Alibaba und ByteDance mit Höchstgeschwindigkeit und haben nacheinander Produkte wie Lingguang 2.0, LightVela, Qianwen Go! auf den Markt gebracht. Auf Hardware-Seite setzen KI-Brillen wie Thunderbird und Rokid zunehmend auf die lückenlose Aufzeichnung und Speicherung aller Momente im Umfeld des Nutzers; auch die verkörperte Intelligenz entwickelt sich in die gleiche Richtung:
Führende große Modelle werden zum übergeordneten „Gehirn“ von Robotern – der nächste Schritt ist es, zu Lebenspartnern zu werden, die die Nutzer besser verstehen.
Diese dichte Veröffentlichungswelle sendet ein äußerst klares Signal aus: Der Wettbewerb im zweiten Halbfeld der persönlichen Intelligenz verlagert sich vollständig vom Wettbewerb um einzelne Modelle und punktuelle Funktionen hin zum Wettbewerb um eine vollständige Systemarchitektur.
Dies erfordert nicht nur, dass das System langfristig betrieben werden kann, sondern auch, dass die drei Module Wahrnehmung, Gedächtnis und Handlung miteinander zusammenwirken und Informationen austauschen – und all dies muss autonom geschehen, ohne dass der Nutzer etwas sagen muss.
Daraus ergeben sich jedoch eine Reihe kritischer Fragen:
- Läuft das System ständig im Hintergrund – bedeutet das bereits echtes „immer online“?
- Was genau sollte der Assistent tun und was nicht, wenn der Nutzer nicht anwesend ist oder keine Anweisungen gibt?
Zusammengefasst sucht die gesamte Branche nach Antworten auf drei Kernfragen: Wann gilt ein Assistent als wirklich „immer online“? Wie kann er „mit der Nutzung immer besser verstehen“? Wie weit sind die vorhandenen Systeme von diesen beiden Zielen entfernt?
Abbildung 1 | Überblick über die Roadmap: Definition des geschlossenen fortlaufenden Zyklus, Untersuchung der drei Module, Analyse des integrierten Systems und der Zyklusstufen, Prüfung vorhandener Systeme mit HALO, Diskussion offener Probleme
Zu diesen drei zentralen Fragen haben 23 Forscher von insgesamt 9 Universitäten – der Nanyang Technological University, der University of California, Berkeley, der Princeton University, der Stanford University, der National University of Singapore, der King Abdullah University of Science and Technology (KAUST), dem Dartmouth College, der University of North Carolina at Chapel Hill und der Northwestern University – gemeinsam eine 126-seitige umfassende Übersicht veröffentlicht.
Link zur Arbeit: https://www.preprints.org/manuscript/202611.0793
Projekt-Homepage: https://always-on-intelligence.github.io
Liste der Arbeiten: https://github.com/Always-On-Intelligence/awesome-always-on-personal-intelligence
In der Arbeit betonen die Autoren: Ein Assistent, der „ständig eingeschaltet ist“, ist nicht gleichbedeutend mit „immer online“.
„Always-On“ (immer online) ist kein neuer Begriff. Im Software- und Hardware-Engineering wird er bereits seit langem verwendet, um Systeme zu beschreiben, die ständig in Betrieb und jederzeit verfügbar sind.
Auf persönliche Assistenten angewendet, gibt es jedoch noch keine klare Definition dafür, was das genau bedeutet. In letzter Zeit werden solche Systeme häufig mit Konzepten wie Proactive Agent (proaktiver Agent), Personal Agent (persönlicher Agent) oder Long-Horizon Agent (langfristiger Agent) vermischt, wodurch die Grenzen noch unschärfer werden.
Aus diesem Grund hat diese Übersicht 632 Literaturquellen sowie 119 Forschungssysteme und Produkte ausgewertet, die die drei Szenarien Wearables, digitale Intelligenz und verkörperte Intelligenz abdecken.
Aus der Perspektive eines geschlossenen Zyklus aus „drei Funktionsmodulen (Wahrnehmung, Gedächtnis, Handlung) × sechs gerichteten Informationsflüssen“ geben die Autoren eine Definition, einen Funktionsrahmen, sechs Stufen und eine zukünftige Roadmap für die immer online verfügbare persönliche Intelligenz und stellen das endgültige Konzept vor: Der Nutzer steuert, der Assistent führt aus.
Obwohl heutige Agenten bereits viele konkrete Aufgaben für Menschen übernehmen können, müssen die Nutzer dennoch ständig im geschlossenen Zyklus bleiben, um Schritt für Schritt Anweisungen zu geben und Genehmigungen zu erteilen, damit der Zyklus funktioniert. In der endgültigen Form, die in der Arbeit vorgestellt wird, muss der Nutzer den Betrieb des Zyklus nicht mehr persönlich aufrechterhalten, sondern ist nur dafür verantwortlich, die Richtung zu bestimmen und Grenzen zu setzen.
Der Assistent entscheidet selbst, wann er beobachtet und wann er eingreift, verbessert seine Arbeitsweise anhand von Erfahrungen und hält nur vor Aktionen an, die die Genehmigung des Nutzers erfordern, um eine Bestätigung anzufordern.
Auf der Projekt-Homepage wurde gleichzeitig ein unterhaltsames interaktives Demo veröffentlicht: In 8 Alltagsszenarien können die Leser einmal die Entscheidungen des Assistenten übernehmen und dann sehen, was passieren würde, wenn sie sich anders entscheiden.
Was gilt als echtes „immer online“?
Sehen wir uns zuerst ein kleines Alltagsszenario an: Sie sagen zu Ihrem Assistenten: „Erinnere mich nach dem Meeting daran, den Bericht zu versenden.“
Sobald Sie das gesagt haben, ist das Gespräch beendet – aber die Arbeit des Assistenten hat gerade erst begonnen: Er muss selbst darauf achten, wann das Meeting endet, dann einen geeigneten Zeitpunkt wählen, um die Erinnerung einzublenden, und sich diese noch nicht erledigte Aufgabe die ganze Zeit merken.
Die Arbeit fasst diesen Prozess zu zwei Kern Eigenschaften zusammen, die ein immer online verfügbarer Assistent gleichzeitig haben muss:
- Betriebskontinuität (Operational Continuity): Auch wenn keine neuen Anfragen vorliegen, kann der Assistent anhand der aktuellen Situation selbst entscheiden, ob und wann er handeln soll – wobei „das Warten beizubehalten“ selbst eine vernünftige Entscheidung ist.
- Zustandspersistenz (State Durability): Über mehrere Interaktionen hinweg bleiben verfügbare persönliche Zustände dauerhaft erhalten (z. B. die Präferenzen des Nutzers und Versprechen, die der Assistent gemacht hat, aber noch nicht erfüllt hat). Auch wenn das aktuelle Gespräch bereits beendet ist, kann der Assistent diese ausstehenden Aufgaben zu einem späteren Zeitpunkt selbst erfüllen.
Diese beiden Eigenschaften zusammen bilden den „fortlaufenden geschlossenen Zyklus“ (Continuing Loop), der auch der Grundstein der immer online verfügbaren persönlichen Intelligenz ist.
Nach diesem strengen Standard gelten viele gängige Assistenten auf dem Markt noch nicht als wirklich „immer online“:
- Assistenten mit Gedächtnis, die aber passiv sind: Sie besitzen ein Langzeitgedächtnis, warten aber immer darauf, dass der Nutzer zuerst spricht – sie verfügen nur über „Zustandspersistenz“;
- Assistenten, die selbst Gespräche initiieren, aber keine Ergebnisse speichern: Obwohl sie Dialoge aktiv starten können, behalten sie nach dem Gespräch nichts – sie verfügen nur über „Betriebskontinuität“;
- Mechanische zeitgesteuerte Aufgaben: Wecker oder Skripte können zwar rund um die Uhr laufen, werden aber nur nach voreingestellten Zeiten mechanisch ausgelöst und treffen keine eigenen Entscheidungen.
„Immer online“ und „Long-Horizon Agent“ (langfristiger Agent) sind nicht dasselbe. Der Long-Horizon Agent kümmert sich darum, „wie man eine gegebene komplexe Aufgabe abschließt“, auch über mehrere Sitzungen hinweg. Die immer online verfügbare persönliche Intelligenz hingegen steht vor einer anderen Situation: Die Ziele und Anforderungen des Nutzers ändern sich ständig, neue Situationen tauchen ständig auf – sie muss in dynamischen Veränderungen ununterbrochene Begleitung und Unterstützung bieten.
Um diesen ständigen Veränderungen gerecht zu werden, reicht es bei weitem nicht aus, nur mehr Informationen auswendig zu lernen. Der Assistent muss auch seine eigenen Arbeitsmechanismen im laufenden Betrieb ständig verbessern. Die Arbeit nennt diese fortgeschrittene Fähigkeit „Selbstevolution“ (Self-Evolution).
Der fortlaufende geschlossene Zyklus ist die Grundlage, die Selbstevolution ist die Richtung
Auf der Grundlage der oben genannten Definition stellt die Übersicht das Kernargument der gesamten Arbeit vor: Die Grundlage der immer online verfügbaren persönlichen Intelligenz ist der „fortlaufende geschlossene Zyklus“, die Entwicklungsrichtung ist die „Selbstevolution“.
Der Schlüssel zum Verständnis von „immer online“ liegt darin, den Blick von einzelnen Fähigkeiten auf den gesamten Zyklus zu lenken. Aktives Sprechen, Langzeitgedächtnis und Hintergrundausführung – keine dieser einzelnen Fähigkeiten reicht aus, um den Zustand „immer online“ zu erreichen. Erst wenn Wahrnehmung, Gedächtnis und Handlung auch in der Lücke zwischen zwei Anfragen zusammenwirken und Informationen austauschen, ist der Zustand „immer online“ wirklich erreicht. Daher ist „immer online“ eine Systemeigenschaft des gesamten Zyklus und keine lokale Funktion eines einzelnen Moduls.
Auf dieser Grundlage ist die „Selbstevolution“ die erweiterte Erweiterung des fortlaufenden geschlossenen Zyklus. Hier muss ein häufiges Missverständnis geklärt werden: Den Nutzer zu merken, ist nicht gleichbedeutend mit Selbstevolution.
Nehmen wir noch das Beispiel „Erinnerung nach dem Meeting“: Die Speicherung der Information „Der Nutzer bevorzugt, die Erinnerung zu erhalten, nachdem er an seinem Arbeitsplatz angekommen ist“ bedeutet nur, dass ein Datensatz aktualisiert wurde – die Arbeitsweise des Assistenten hat sich nicht geändert. Erst wenn der Assistent feststellt, dass seine vorherigen Erinnerungen häufig geschlossen wurden, und dann die Regel für den Erinnerungszeitpunkt auf „Erinnere den Nutzer, nachdem er an seinem Arbeitsplatz angekommen ist“ ändert, hat er tatsächlich seinen Mechanismus überarbeitet.
Sobald sich der Mechanismus ändert, ändert sich auch die Verarbeitung aller nachfolgenden Eingaben. Aus diesem Grund stellt die Arbeit höhere Anforderungen an die Selbstevolution:
- Nachvollziehbar, prüfbar und rückgängig machbar: Jede Überarbeitung des Mechanismus muss auf konkreten Grundlagen zurückverfolgt werden können, vor der Aktivierung geprüft werden und rückgängig gemacht werden können.
- Vollständige Beweiskette: Um zu beweisen, dass ein System über Selbstevolutionsfähigkeit verfügt, muss ein vollständiger Beweis vorgelegt werden – von „Was wurde getan?“, „Wie war das Ergebnis?“ bis hin zu „Die überarbeitete Regel wird tatsächlich in der nachfolgenden Nutzung wirksam“.
Entlang des Verlaufs von der „Grundlage“ zur „Richtung“ unterteilt die Arbeit den Entwicklungspfad in sechs Stufen von L0 bis L5. Ab Stufe L3 entscheidet der Assistent ohne Anfrage selbst, ob er handelt oder wartet – dann ist der fortlaufende geschlossene Zyklus etabliert. Ab Stufe L5 überarbeitet der Assistent seine eigenen Arbeitsmechanismen innerhalb der vom Nutzer festgelegten Grenzen – dann ist die Selbstevolution etabliert.
Kurz gesagt: Der fortlaufende geschlossene Zyklus sorgt dafür, dass der Assistent „immer anwesend ist“, die Selbstevolution sorgt dafür, dass er „mit der Nutzung immer besser versteht“.
Drei Module, sechs gerichtete Kanäle
Die Idee, dass ein KI-Assistent dem Nutzer ständig zur Seite steht und hilft, existiert schon seit langem. Frühere Forschungen haben Wahrnehmung, Gedächtnis und die Entscheidung „wann geholfen werden soll“ oft getrennt voneinander behandelt. Da große Modelle alle Module zunehmend allgemein einsetzbar machen, ist die neue Schwierigkeit geworden, die drei wirklich miteinander zu verbinden und den Informationsfluss zwischen den Modulen zu verarbeiten.
Die Arbeit unterteilt den immer online verfügbaren Assistenten in drei Funktionsmodule innerhalb desselben geschlossenen Zyklus:
Wahrnehmung (Sensing): Verantwortlich für die Beobachtung. Sie kann ständig aktiviert sein, durch bestimmte Hinweise oder Timer geweckt werden oder bei Bedarf gestartet werden.
Gedächtnis (Memory): Speichert Informationen, die für spätere Entscheidungen nützlich sind. Es speichert sowohl vergangene Ereignisse als auch aktuelle Fakten und Präferenzen sowie Versprechen, die dem Nutzer noch nicht erfüllt wurden.
Handlung (Action): Entscheidet, ob, wann und wie geholfen wird. Dies umfasst sowohl die Reaktion auf Anfragen und die Erfüllung früherer Versprechen als auch aktive Hilfe, wenn niemand danach fragt.
Es ist zu beachten, dass jedes Modul zwei Ebenen umfasst: „Was kann es tun?“ und „Wie wählt es aus?“ – auch „nicht zu handeln“ ist eine Wahl: Die Wahrnehmung kann wegschauen, das Gedächtnis kann unverändert bleiben, die Handlung kann schweigen.
Die drei Module sind über sechs gerichtete Kanäle (Coupling Channel) miteinander verbunden, wobei jeder Kanal die Information darstellt, die von einem Modul an ein anderes übermittelt wird:
Außerhalb des geschlossenen Zyklus aus drei Modulen und sechs Kanälen gibt