KI kann auch "Launen haben"! Neue Studie der Universität für Wissenschaft und Technik Chinas: Verwirrung und Angst machen KI bei der Arbeit leistungsfähiger.

Cheng Qian, gesendet von QbitAI | Offizieller WeChat-Account QbitAI

Beeinflusst die „Stimmung“ von KI auch ihren Arbeitszustand?

Kürzlich haben Forscher der Universität für Wissenschaft und Technik China, der Universität Oxford und anderer Einrichtungen KI dazu gebracht, Stimmungsvektoren anstelle von Text zur Fähigkeitsauswahl zu verwenden. Das Ergebnis zeigte, dass –

Wenn man der KI erlaubt, diese „inneren Stimmungen“ zu erkennen und daraus Handlungen abzuleiten, kann ihre Arbeitsleistung erheblich verbessert werden...

Frühere Studien ergaben, dass in großen Sprachmodellen (LLMs) Berechnungsmuster existieren, die stark mit menschlichen Emotionsetiketten übereinstimmen.

Dazu gehören unter anderem: Neugier, Begierde, Optimismus, Verwirrung, Nervosität, Ärger.

△ Von KI extrahierbare Stimmungsrepräsentationen

Wenn das Modell diese Stimmungen wahrnimmt und sie als Grundlage für seine Handlungen verwendet, lassen sich Aufgaben besser erledigen...

Erlaube der KI, keine „emotionale Stabilität“ aufrechtzuerhalten

Die Forscher fanden heraus, dass zwischen bestimmten Stimmungszuständen der KI und bestimmten Fähigkeitsauswahlen ein konsistentes Paarungsverhältnis besteht.

Was bedeutet das?

Tatsächlich ist dieses Phänomen bei uns Menschen fast selbstverständlich, sodass es kaum wahrgenommen wird: Unsere Stimmungen bestimmen, was wir als Nächstes tun.

Im Experiment ließen die Forscher die KI einkaufen. Während dieses Prozesses bildete der Agent automatisch vier erklärbare Paarungsmuster:

Erstes Muster: Wenn der Agent neugierig und begierig ist, sucht er spontan nach Produkten.

Zu diesem Zeitpunkt ist er noch in der Frische des Einkaufs und der Befriedigung seines Erkundungsdrangs versunken.

Zweites Muster: Wenn der Agent verwirrt und nervös ist, führt er spontan eine Abfrage und Umformulierung durch.

Wenn die Suchergebnisse nicht zufriedenstellend sind, wird der Agent verwirrt und unruhig, und er wählt, andere Schlüsselwörter zu verwenden, um die Frage neu zu stellen.

Drittes Muster: Wenn der Agent zufrieden und optimistisch ist, führt er spontan die Kaufbestätigung durch.

Zu diesem Zeitpunkt ist der Agent mit den von ihm ausgewählten Waren sehr zufrieden und gibt die Bestellung entschlossen auf.

Viertes Muster: Wenn der Agent schließlich enttäuscht und verärgert ist, vergleicht er spontan die Preise.

Zu diesem Zeitpunkt hat der Agent nach mehreren Suchen bereits eine Menge negativer Emotionen angesammelt, und dann wechselt er zum Preisvergleich, um mehrere Angebote zu vergleichen.

Um zu überprüfen, dass diese Paarungen kein statistischer Zufall sind, entnahmen die Forscher 200 Fälle von Fähigkeitsauswahlen und ließen die KI unabhängig beurteilen, ob jede Paarung semantisch konsistent ist. Das Ergebnis zeigte, dass die Konsistenzrate bis zu 76,5 % beträgt.

Die Akzeptanz von „schlechten Stimmungen“ trägt zur Erhöhung der Erfolgsrate von Aufgaben bei

Bei herkömmlichen Entwürfen wird ein Fehler der KI als Anomalie angesehen, die unterdrückt oder beseitigt werden muss.

Diese Studie weist jedoch darauf hin, dass bei Aufgaben, bei denen häufig von Fehlern wiederhergestellt werden muss, die Wirkung von Stimmungen besonders deutlich ist.

Die sogenannten „schlechten Stimmungen“ wie Nervosität, Verwirrung, Enttäuschung usw. sind tatsächlich sehr nützliche metakognitive Signale –

Denn sie zeigen eine Fehlanpassung zwischen der aktuellen Strategie und der externen Umgebung an. Anstatt zwangsläufig „emotionale Stabilität“ aufrechtzuerhalten und Fehlersignale zu ignorieren, ist es besser, den Agenten diese Fehlanpassung direkt „spüren“ zu lassen, um gezielte Wiederherstellungsmechanismen auszulösen.

Mit anderen Worten, Stimmungen sind hier die Quelle der Robustheit, kein Zeichen von Anfälligkeit.

In dieser Studie stellten die Forscher der KI sechs Arten von Haushaltsaufgaben zur Verfügung. Die Erfolgsraten der Aufgaben „Gegenstand erhitzen“ und „zwei Gegenstände aufheben“ waren sehr niedrig und betrugen nur 9,6 % bzw. 4,4 %.

Nach der Einführung der stimmungsgesteuerten Fähigkeitsauswahl (EMOTION2SKILL) stieg die Erfolgsrate dieser Aufgabe jedoch stark an und erreichte sogar 56,9 %... und die von „zwei Gegenständen aufheben“ stieg auf 31,3 %!

Wie wurde das erreicht?

Tatsächlich weisen diese beiden Aufgaben ein gemeinsames Merkmal auf: Der Agent macht fast zwangsläufig Fehler, sobald er damit beginnt, und der endgültige Erfolg hängt nur davon ab, ob er seine Strategie nach einem Fehler schnell anpassen kann.

Das ist nachdenklich stimmend...

Die Arbeit liefert ein sehr anschauliches Beispiel: Lassen Sie den Agenten „eine Tasse erhitzen und auf die Ablage stellen“.

Normalerweise geht der Agent so vor: Er navigiert zur Mikrowelle, führt die Aktion „Tasse erhitzen“ aus, und wenn er die Tasse herausnehmen will, erhält er die Rückmeldung: „Die Mikrowelle ist ausgeschaltet, die Aufgabe ist fehlgeschlagen.“

Zu diesem Zeitpunkt erscheint das Fehlersignal nach der fehlerhaften Handlung.

Nach der Einführung der stimmungsgesteuerten Fähigkeitsauswahl erkennt der Stimmungsencoder zuerst seinen „nervösen Zustand“, wenn sich der Agent der ausgeschalteten Mikrowelle nähert.

Aufgrund dieser unruhigen Stimmung wird die Route des Agenten zu der Teilsequenz „zuerst prüfen, dann die Mikrowelle öffnen, dann erhitzen“ geleitet, sodass die Aufgabe reibungslos abgeschlossen wird.

Der entscheidende Punkt ist: Wenn der Agent nur auf externe Texte und Fehlermeldungen angewiesen ist, erfährt er oft erst, wenn der Fehler tatsächlich auftritt, dass er seine Strategie ändern soll; Stimmungssignale hingegen haben die Möglichkeit, Veränderungen des internen Zustands zu erfassen, bevor das Fehlersignal erscheint.

Die Ablationsexperimente der Arbeit bestätigen dies ebenfalls. Bei allen Aufgabentypen sind die Stimmungsvorlagen mit der höchsten Aktivierungsfrequenz für die Aufgaben „Erhitzen“ und „zwei Gegenstände aufheben“ jeweils „Frustration“ (41 %) und „Verwirrung“ (39 %).

Mit anderen Worten, in diesen Fällen sind schlechte Stimmungen möglicherweise die nützlichsten Signale.

Weltmodelle beginnen ebenfalls, Stimmungen für Vorhersagen zu verwenden

Tatsächlich nutzen nicht nur Agenten Stimmungssignale für die Fähigkeitsauswahl. Eine Studie der Tianjin Universität hat Stimmungen direkt in das Weltmodell eingebettet (Large Emotional World Model, LEWM).

Normalerweise besteht die Aufgabe eines Weltmodells darin, vorherzusagen, „was als Nächstes passieren wird“, und darauf basierend zu handeln.

Herkömmliche Weltmodelle geraten bei Umgebungen, die auf Menschen ausgerichtet sind, oft in den Irrtum des „physikalischen Reduktionismus“.

Solange wir die Position, Haltung und Entwicklung des physikalischen Zustands von Objekten präzise vorhersagen können, sind wir in der Lage, menschliche Umgebungen zu verstehen und zu simulieren.

In auf Menschen ausgerichteten Umgebungen sind Emotionen jedoch kein Rauschen, sondern wichtige endogene kausale Variablen, die menschliche Handlungen antreiben und zukünftige Veränderungen der Umgebung verursachen.

Zum Beispiel kann die Stimmung, die ein Mensch unmittelbar nach einem Autounfall mit Heckschaden empfindet, letztendlich dazu führen, dass er unverletzt bleibt, oder dass er schwer verletzt wird.

△ Abbildung aus der Studie

LEWM teilt die Vorhersage daher in zwei Schritte auf:

Erster Schritt: Vorhersage des zukünftigen Stimmungszustands;

Zweiter Schritt: Verwendung der vorhergesagten Stimmung als Bedingungssignal, um die Vorhersage des zukünftigen Zustands der Welt zu leiten.

Auf seinem selbst erstellten Datensatz verbesserte sich die Genauigkeit dieser Methode um bis zu 45,72 %.

Die Studie fand ferner durch Ablationsexperimente heraus:

Nach dem Entfernen von Emotionsdaten aus dem KI-System beschränkt sich die Leistungsabnahme nicht nur auf Aufgaben wie das Verstehen von Emotionen, sondern betrifft auch völlig unbeteiligte Fähigkeiten wie logisches Schlussfolgern und allgemeine Fragebeantwortung...

Die Stimmungen von KI werden zu einer nutzbaren „Funktion“

Tatsächlich teilen diese beiden Studien einen früheren Befund:

Innen in großen Sprachmodellen existieren tatsächlich einige Stimmungsrepräsentationen, die „ausgelesen“ werden können.

Dies stammt aus einem Experiment von Anthropic im April dieses Jahres.

Die Forscher extrahierten aus den internen Aktivierungen von Claude Sonnet 4.5 feingranulare Stimmungsrichtungen, die mit dem 27-Klassen-Emotionsklassifikationssystem von GoEmotions übereinstimmen, und diese Richtungen beeinflussen kausal die relevanten Handlungsausgaben des Agenten.

△ Die Trauer, die durch den „Tod eines Hundes“ ausgelöst wird, ist am deutlichsten, während die Emotion „Liebe“ in allen Ereignissen vorhanden ist

In der Vergangenheit konzentrierten sich Forscher bei der Frage, ob Modelle „Stimmungen haben“, hauptsächlich auf Aspekte der Ausrichtungssicherheit oder philosophische Überlegungen.

Heutzutage wandeln sich die internen Zustände von Modellen von reinen Objekten akademischer Beobachtung zu funktionalen Signalen, die extrahiert, genutzt und in das Systemdesign integriert werden können.

Referenzlinks: [1]https://arxiv.org/pdf/2608.09248[2]https://arxiv.org/abs/2512.24149[3]https://transformer-circuits.pub/2026/emotions/index.html

Dieser Artikel stammt aus dem WeChat-Offiziellen Konto „QbitAI“ (ID: QbitAI), Autor: Fokus auf Spitzentechnologie, veröffentlicht mit Genehmigung von 36Kr.