Auf dem Weg zu superintelligenten Agenten braucht KI noch Proaktivität: Gemeinsamer Übersichtsartikel von UIUC, Google und weiteren Einrichtungen

Im Jahr 1995 stellten Michael Wooldridge und Nicholas Jennings in dem Werk *Intelligent Agents: Theory and Practice* die Autonomie, die Sozialfähigkeit, die Reaktivität und die Proaktivität als vier grundlegende Merkmale intelligenter Agenten auf.

Proaktivität bedeutet, dass intelligente Agenten in der Lage sind, Arbeiten eigenständig im Einklang mit den Zielen durchzuführen.

Diese Anforderung ist bereits vor dreißig Jahren in die grundlegende Diskussion der Forschung zu intelligenten Agenten eingegangen.

Heute sind Agenten auf Basis großer Modelle bereits in der Lage, Anweisungen zu verstehen, Werkzeuge aufzurufen und Aufgaben mit mehreren Schritten selbstständig zu erledigen. Viele Systeme erfordern nach wie vor, dass Menschen Probleme erkennen, Aufgaben vorschlagen und diese dann zur Bearbeitung an die KI übergeben. Die Erwartungen der Menschen an intelligente Assistenten umfassen eine weitere Fähigkeit: vor Eintreffen neuer Anweisungen lohnende Arbeiten zu erkennen und diese eigenständig in Angriff zu nehmen.

Abbildung 1｜Der Forschungshintergrund zur Unterstützung proaktiver Verhaltensweisen. Dauerhafte Wahrnehmung, Vorhersage, Zielpflege und Auswahl von Eingriffen verfügen alle über Forschungsgrundlagen, die vor den großen Modellen entstanden sind.

Diese Fähigkeit wirkt sich direkt darauf aus, ob langfristige Aufgaben kontinuierlich vorangebracht werden können. Bei einer Arbeit, die mehrere Tage oder Wochen dauert, lassen sich alle späteren Veränderungen in der ursprünglichen Anweisung kaum im Voraus festlegen. Informationen können fehlen, geplante Lösungen können behindert werden und bereits abgeschlossene Vereinbarungen müssen möglicherweise erneut überprüft werden. Intelligente Agenten müssen aktiv Unklarheiten klären, Alternativen suchen und Pläne anpassen, um die Belastung der Menschen durch wiederholte Fortschrittsprüfungen und ergänzende Anweisungen zu verringern.

Stellen Sie sich vor, ein Forscher überlässt einem Assistenten die Nachverfolgung einer Geschäftsreise zu einer Konferenz und späteren Änderungen, wobei Flugtickets und Hotel bereits gebucht sind. Eine Woche vor der Abreise wird die Konferenz um einen Tag verlängert, sodass der Rückflug vor dem Ende der Konferenz liegt, und die kostenlose Stornierungsfrist des Hotels läuft noch am selben Abend ab. Um diese Reise fortzusetzen, muss der Assistent die Konflikte zwischen diesen Vereinbarungen erkennen, die Anpassungsbedingungen prüfen, Lösungen vorbereiten und die Angelegenheiten, über die der Forscher entscheiden muss, rechtzeitig vorlegen. Die Anweisungen bei der Buchung können kaum im Voraus festlegen, wie diese Kette von Änderungen zu behandeln ist.

Bei zukünftigen superintelligenten Agenten sollte die Proaktivität neben Intelligenz und Ausrichtung (Alignment) gleichermaßen Beachtung finden. Intelligenz bezieht sich auf die Fähigkeit zu Verstehen, Schlussfolgern und Ausführen, während Alignment dafür sorgt, dass das Verhalten den Absichten und Werten der Menschen entspricht. Proaktivität erfordert zudem, dass intelligente Agenten beurteilen, was sich zu tun lohnt, und die Verantwortung für das Erkennen und Initiieren von Arbeiten übernehmen. Ein Assistent, der langfristig zusammenarbeiten kann, muss über diese Fähigkeiten in allen genannten Bereichen verfügen.

Führende Labore haben bereits begonnen, solche Assistenten zu erforschen. Meta positioniert Muse als persönlichen intelligenten Agenten, der Menschen aktiv bei der Erreichung ihrer Ziele unterstützt und Arbeiten kontinuierlich vorantreibt; Dots von OpenAI unterstützt die fortlaufende Nachverfolgung von Aufgaben über verschiedene Gespräche hinweg und kann sich aus den zugelassenen Informationsquellen aktiv einarbeiten, um neue Zusammenhänge mit bereits laufenden Arbeiten zu entdecken.

Auch die akademische Welt erforscht spezifische Implementierungsmethoden. Die Proactive-Agent-Forschung der Tsinghua-Universität und anderer Einrichtungen untersucht, wie Aufgaben je nach Kontext vorhergesagt werden können, um ohne explizite Anweisungen aktiv Unterstützung zu leisten; ProAgent der Chinesischen Universität Hongkong und anderer Einrichtungen nutzt tragbare Geräte, um Umgebungsinformationen zu erfassen, Bedürfnisse im täglichen Leben abzuleiten und Werkzeuge zur Unterstützung aufzurufen.

Wie Bedürfnisse erkannt, lohnende Arbeiten ausgewählt und diese kontinuierlich vorangebracht werden können, ist das gemeinsame Problem dieser Forschungen. Forscher der UIUC, Google, Stanford, UC Berkeley und CMU stellen in dem Werk *Proactive AI for Superintelligent Agents* rund um die Fähigkeit zur proaktiven Initiierung von Arbeiten ein 6A-Analyseframework vor, das relevante Mechanismen, Bewertungsmethoden und 13 Anwendungsbereiche systematisiert. Leser können mithilfe dieses Frameworks bestehende Systeme verstehen und darüber nachdenken, welche Fähigkeiten ein proaktiver intelligenter Agent noch benötigt.

• Projektseite: https://empathyang.github.io/Proactive-AI-for-Superintelligent-Agents/
• Google Research: https://research.google/pubs/proactive-ai-for-superintelligent-agents/

Welche Urteile müssen intelligente Agenten selbst fällen

Bei der Suche nach Flügen und der Durchführung von Buchungen sind die zu erledigenden Arbeiten bereits von Menschen benannt. Nach der Verlängerung der Konferenz muss der Assistent selbst erkennen, dass Rückreise und Unterkunft beeinträchtigt sind, beurteilen, welche Vereinbarungen sich zu überprüfen lohnen, und die nachfolgenden Arbeiten vorschlagen.

Die Teilnahmeziele und das Budget gelten weiterhin, welche Angelegenheiten konkret zu bearbeiten sind, muss anhand der veränderten Situation beurteilt werden. Diese Fähigkeit, Arbeiten selbst zu erkennen und zu initiieren, ist der Schwerpunkt der Diskussion über Proaktivität in der Übersichtsarbeit.

Die Übersichtsarbeit fasst diese Urteile in zwei Fragen zusammen: Was sich zu bearbeiten lohnt und ob, wann und wie eingegriffen werden soll. Da der Rückreisekonflikt das Teilnahmeziel beeinträchtigt, gibt es einen klaren Grund, die Rückreisevereinbarungen zu überprüfen.

Nach dem Erkennen des Konflikts muss der Assistent zudem den Nutzen und die Kosten der Anpassung vergleichen, die Stornierungsfrist berücksichtigen und entscheiden, ob er derzeit Lösungen vorbereiten, eine Bestätigung anfordern oder bereits genehmigte Maßnahmen ausführen soll.

Abbildung 2｜Reaktives und proaktives Verhalten. Proaktive intelligente Agenten beurteilen selbst, was sich zu bearbeiten lohnt und ob, wann und wie eingegriffen werden soll; explizite Anfragen und voreingestellte Regeln können im selben System weiterhin wirken.

Eine Anweisung kann das Teilnahmedatum, die Obergrenze des Budgets und das zulässige Konto festlegen. Wie man zwischen Umsteigerisiken und Flugpreisen abwägt, wie man anpasst, wenn die Unterkunft nicht verlängert werden kann, und welche bestehenden Vereinbarungen sich zu behalten lohnen, bleibt oft der Beurteilung bei der Ausführung überlassen. Die Arbeit beschreibt diese nicht im Voraus festgelegten Wahlmöglichkeiten als „verbleibenden Entscheidungsspielraum“. Proaktivität kann sowohl zur Erledigung der aktuellen Aufgabe als auch zur Entdeckung neuer konkreter Arbeiten im Rahmen dauerhafter Verantwortlichkeiten genutzt werden; die Ziele und Einschränkungen der Menschen liefern die Grundlage für diese Wahlmöglichkeiten.

Abbildung 3｜Einige Anforderungen der Aufgabe sind bereits klar festgelegt, andere bleiben der Beurteilung bei der Ausführung überlassen. Intelligente Agenten können diese verbleibenden Entscheidungen im Rahmen der übertragenen Befugnisse bearbeiten, wobei Ziele und Einschränkungen weiterhin gelten.

Die Fähigkeit zur Initiierung von Arbeiten und die Ausführungsbefugnis können getrennt geregelt werden. Der Assistent erkennt proaktiv den Reiseplanungskonflikt und bereitet eine Umbuchungslösung vor, während die Zahlung zur Bestätigung dem Forscher überlassen werden kann; nachdem der Forscher die Umbuchung ausdrücklich angefordert hat, kann der Assistent auch die bereits autorisierten Maßnahmen selbstständig durchführen. Die Proaktivität befasst sich damit, wie Arbeiten entdeckt und vorgeschlagen werden, während der Autonomiegrad beschreibt, bis zu welchem Schritt das System unabhängig arbeiten kann. Intelligenz unterstützt es dabei, Probleme zu verstehen und zu lösen, während Alignment dafür sorgt, dass das Verhalten den Absichten und Werten der Menschen entspricht.

Abbildung 4｜Proaktivität, Intelligenzniveau und Alignment beeinflussen gemeinsam die Leistung intelligenter Agenten. Der Autonomiegrad beschreibt den Bereich der zugelassenen unabhängigen Ausführung, wobei die Autorisierung sich an der Zuverlässigkeit und dem Aufgabengefährdungspotenzial orientieren muss.

Derselbe Assistent kann mehrere Arbeitsweisen anwenden. Die Beantwortung von Fluginformationen nach Erhalt einer Suchanfrage, das Versenden einer Bordkarten-Erinnerung zum vereinbarten Zeitpunkt und die proaktive Überprüfung des Reiseplans anhand neuer Konferenzvereinbarungen können alle in einem einzigen System realisiert werden. Mit der Änderung der vom System übernommenen Verantwortlichkeiten können die Menschen von der schrittweisen Ausführung einzelner Operationen über die gemeinsame Änderung von Lösungen bis hin zur Prüfung wichtiger Entscheidungen wechseln. Reaktives Verhalten, proaktive Urteile und die Art der Beteiligung der Menschen müssen im Zusammenhang mit den konkreten Aufgaben verstanden werden.

Abbildung 5｜Die Art der Zusammenarbeit kann sich kontinuierlich verändern. Aufgabe, Beweise, Zeitskala und Befugnis beeinflussen gemeinsam den Proaktivitätsgrad des intelligenten Agenten und die Beteiligungsart der Menschen.

Von einer Verschiebungsmitteilung

zu einer proaktiven Unterstützung

In dem Beispiel der Reiseplanung hängt das selbstständige Erkennen von Arbeiten von mehreren zusammenwirkenden Fähigkeiten ab. Mitteilungen und Bestellungen liefern die aktuelle Situation, Vorhersagen helfen dabei, nachfolgende Auswirkungen zu erkennen, die Zielauswahl bestimmt, welche Angelegenheiten nachverfolgt werden, das Eingriffsurteil entscheidet, wann vorangetrieben wird, und Ausführung sowie Feedback sorgen dafür, dass die Arbeit fortgesetzt wird. Die Übersichtsarbeit fasst diese Fähigkeiten in den 6A-Begriffen zusammen: Awareness (Wahrnehmung), Anticipation (Vorausschau), Agenda (Arbeitsplan), Arbitration (Entscheidung), Action (Handlung) und Adaptation (Anpassung).

Große Sprachmodelle und Multimodal-Modelle können Text, Bilder und andere Kontextinformationen verarbeiten. Die von Agent-Harness bereitgestellten Funktionen für Gedächtnis, Werkzeuge, Fähigkeiten und Ausführungsverwaltung erweitern die Arbeitsfähigkeit intelligenter Agenten, sodass sie auf externe Anwendungen zugreifen, Fortschritte speichern und Aufgaben über verschiedene Sitzungen hinweg fortsetzen können. Das 6A-Framework hilft zu erklären, wie diese Fähigkeiten zur Entdeckung und Förderung von Arbeiten genutzt werden und wie sich die verschiedenen Glieder gegenseitig beeinflussen.

Abbildung 6｜Das 6A-Framework. Die häusliche Situation in der Abbildung veranschaulicht, wie sich die einzelnen Fähigkeiten gegenseitig beeinflussen: Ausführungsergebnisse und Feedback der Menschen können das vorherige Verständnis und die vorherigen Vereinbarungen überarbeiten.