Frag nicht, ob KI menschenähnlich ist – frag zuerst, ob sie in einer Katastrophe überleben kann

Im Jahr 2023 führten Stanford und Google gemeinsam ein Experiment durch: 25 KI-Bewohner lebten in einer virtuellen Kleinstadt namens Smallville, organisierten selbst eine Valentinstagsparty, tratschten miteinander und waren unzufrieden, wenn sie „nicht eingeladen“ wurden.

Titelbild des Papers „Generative Agents“: 25 generative Agenten in der Spielwelt

Dieses Projekt namens „Generative Agents“ wurde unter anderem von Joon Sung Park, einem Doktoranden an der Stanford University, geleitet. Damals wurde es vor allem als unterhaltsame technische Demonstration betrachtet – es zeigte, dass große Sprachmodelle nicht nur Chat-Fenster sind, sondern auch „Menschen spielen“ und in eine kontinuierlich laufende Welt eingesetzt werden können, um selbst Erinnerungen zu erzeugen, Pläne zu schmieden und mit anderen zu interagieren. Das bekannteste Bild aus dem Papier zeigt die Szene, in der die Agenten spontan eine Valentinstagsparty im Hobbs-Café veranstalten – kein Drehbuch war vorgegeben, die Agenten haben sich selbst abgesprochen, Einladungen verschickt und entschieden, ob sie teilnehmen wollen.

Abbildung 4 des Papers „Generative Agents“: Die spontan von Agenten organisierte Valentinstagsparty

Abbildung 1 des CMU-Papers: Der 16-monatige Prozess, in dem Notfallmanager von Misstrauen zu Vertrauen in die LLM-Agenten-Simulation gelangen

Im vergangenen Jahr wurde diese Technologie von einer Reihe von Forschungsinstituten aus dem Party-Szenario in ernste Anwendungsbereiche gebracht, wie U-Bahn-Brände, Evakuierungen bei Hurrikanen und Evakuierungspläne für Abschlussfeiern. Die Carnegie Mellon University, die Tsinghua-Universität, die Tianjin-Universität und Stanford HAI arbeiten alle an demselben Ziel: KI-Agenten nicht nur eine Party spielen zu lassen, sondern ein Szenario zu simulieren, in dem Menschen um ihr Leben fliehen. Gleichzeitig stellen andere Forscher – wie Petter Törnberg, Wissenschaftler für Computational Social Science an der Universität Amsterdam – die Grundlagen dieser Technologie in Frage: Können diese „menschenähnlichen“ Agenten wirklich ernst genommen werden? Dieser Artikel betrachtet diese beiden Gruppen von Forschern gemeinsam.

Fliehen ums Leben ist ein Entscheidungsproblem, kein physisches Problem

Herkömmliche Evakuierungssimulationen basieren auf rein physischen Modellen: Bei einem gegebenen Raum, einer Menge von Personen und einem Ausgang werden mit zellulären Automaten oder Sozialkraftmodellen die Bewegungswege und die benötigte Zeit der Menschen berechnet. Das Problem dieser Modelle liegt darin, dass sie Menschen als rationale, gleichmäßig bewegte Teilchen annehmen, die nur physischen Gesetzen folgen – aber in echten Katastrophensituationen erstarren Menschen, laufen zurück, um ihre Familien zu suchen, kreisen herum, weil sie die Ausgangsschilder nicht erkennen, und geraten in Panik, was zu Massenstempeln führt. Genau diese Verhaltensweisen können rein physische Modelle nicht berechnen, obwohl sie in den meisten historischen Stempelunfällen die tödlichen Faktoren darstellen.

Abbildung: Die von physischen Modellen angenommene Menschenmenge vs. die echte Menschenmenge in einer Katastrophensituation

Der Ansatz der neuen Generation von Simulationen teilt das System in zwei Ebenen auf: Die „physische Ebene“ übernimmt weiterhin Kollisionen und mechanische Prozesse, die traditionelle Computergrafik gut beherrscht, während die „kognitive Ebene“ von großen Sprachmodellen angetriebenen Agenten übernommen wird, um Urteile, Zögerlichkeit, Panik und Informationsasymmetrien zu verarbeiten. Diese Architektur der „Trennung von Physik und Kognition“ versieht die virtuelle Menschenmenge im Wesentlichen mit einem „Gehirn“, das zögern kann, anstatt nur einem Körper, der laufen kann. Im vergangenen Jahr haben mindestens vier unabhängige Forschungsgruppen diese Architektur aus vier verschiedenen Perspektiven – „Entscheidung“, „Körper“, „Skalierung“ und „individuelle Genauigkeit“ – weiterentwickelt.

Abbildung: Schematische Darstellung der Architektur „Trennung von Physik und Kognition“

Vier reale Fälle, vier Ansätze

Carnegie Mellon University: Evakuierungsplan für Abschlussfeiern von 100 bis 13.000 Personen

Diese Forschung wurde von Yuxuan Li, Sauvik Das und Hirokazu Shirado aus der Informatikfakultät der CMU geleitet. Sie führten eine 16-monatige iterative Designstudie mit dem Notfallmanagementteam der Universität durch, um Referenzen für den echten Evakuierungsplan der Abschlussfeier zu liefern. Das System durchlief fünf Iterationen: von einer kleinen Validierung mit 100 Agenten über 500 und 3.000 bis schließlich zu 13.000 Agenten – eine Zahl, die genau der echten Größe der Menschenmenge bei der Abschlussfeier der Universität entspricht. Das Forschungsteam begann nicht sofort mit einer groß angelegten Simulation, sondern widmete viel Zeit der grundlegenderen Frage: „Wollen Notfallmanager einem KI-Simulationsergebnis vertrauen?“ Im Titel des Papers wird dieser Prozess als Übergang „von Misstrauen zu Vertrauen“ beschrieben – dies zeigt, dass die Hürden solcher Systeme nicht rein technisch sind, sondern auch darin liegen, organisatorisches Vertrauen aufzubauen.

Abbildung 4 des CMU-Papers: Vergleich der Dynamik der echten Menschenmenge bei der Abschlussfeier mit den Simulationsergebnissen

Im Paper wird ein Diagramm (das obige Abbildung 4) gezeigt, das die tatsächliche Dynamik der Menschenmenge bei der Abschlussfeier mit den Simulationsergebnissen vergleicht. Ein weiteres Diagramm stellt die kumulative Evakuierungsfortschrittskurve für verschiedene Evakuierungspläne dar. Schließlich ergab diese 16-monatige Zusammenarbeit drei konkrete Empfehlungen, die in die echten Standardarbeitsanweisungen (SOP) der Universität aufgenommen wurden – dies ist das einzige der vier Fälle, das von einem „Demo im Paper“ zu einem tatsächlich in offiziellen Dokumenten verankerten Verfahren geworden ist.

Tianjin-Universität + Cardiff-Universität + Tsinghua-Universität: Der „Körper“ in einem U-Bahn-Brand

Das System namens RESCUE wurde von Professor Kun Li von der Tianjin-Universität (ausgezeichnetes junges Forscherprogramm des National Natural Science Foundation of China, Leiter der Forschungsgruppe für 3D-Vision an der Fakultät für Intelligenz und Computerei der Tianjin-Universität) geleitet, in Zusammenarbeit mit Teams der Cardiff-Universität und der Tsinghua-Universität. Es löst ein weiteres Problem: Ein „Gehirn, das Entscheidungen treffen kann“ reicht nicht aus – virtuelle Menschen benötigen auch einen „physisch glaubwürdigen“ Körper: Ob die Arme beim Drücken wirklich andere Personen berühren, ob die Stürze natürlich aussehen und ob die Laufgeschwindigkeit von Personen unterschiedlicher Körperbau den tatsächlichen physiologischen Daten entspricht.

Banner der RESCUE-Projektseite: Personalisierte, physikalisch plausible und 3D-adaptive Online-Evakuierungssimulation von Menschenmengen

Auf der Projektseite hat das Team ein Demo-Video (imgs/demo_4201.mp4) veröffentlicht, das den zusammenhängenden Prozess zeigt, wie virtuelle Menschen in der Menge drücken, stürzen, aufstehen und weiterlaufen – dies ist der einzige der vier Fälle, der eine dynamische Demonstration anstelle von nur Papier-Screenshots bietet.

RESCUE-Paper: Visualisierung der Kollisionskräfte an 24 Körperteilen

Das Team hat einen personalisierten Gangwandler entwickelt, der in Echtzeit die Kollisionskräfte an 24 Körperteilen in einer gedrängten Menge berechnet (siehe obige Abbildung). Die qualitativen Vergleichsergebnisse und Ablation-Studien im Paper zeigen, dass dieser Ansatz realistischer als herkömmliche Evakuierungssimulationen ist. Das Team hat zudem die Geschwindigkeitsverteilung verschiedener Personengruppen (ältere Menschen, Kinder, Erwachsene) in gedrängten Situationen in Box-Plots ausgewertet, um zu überprüfen, ob die simulierten individuellen Unterschiede den tatsächlichen physiologischen Daten entsprechen. Diese Arbeit wurde auf der Top-Konferenz für Computervision ICCV 2025 angenommen, der Projektcode und die Projektseite sind öffentlich zugänglich.

Tsinghua-Universität: Agenten in eine ganze Stadt einsetzen

Während die ersten beiden Fälle „ereignisbasierte“ Simulationen darstellen, realisiert das von Professor Yong Li aus der Abteilung für Elektrotechnik der Tsinghua-Universität geleitete System AgentSociety eine „stadtweite“ Simulation. Unter den 16 Autoren des Papiers sind Jinghua Piao und Yuwei Yan die gemeinsamen Erstautoren, Yong Li ist der korrespondierende Autor. Das Abstract des Papiers gibt an, dass für mehr als 10.000 Agenten ein vollständiges soziales Leben erzeugt wurde, was insgesamt 5 Millionen Interaktionen ergab.

Abbildung 2 des AgentSociety-Papers: Gesamtarchitektur

Dieses System wurde für mehrere soziale Experimente verwendet: Eines simulierte die Reaktion einer Stadt auf externe Schocks wie Hurrikane, andere untersuchten, wie die Verbreitung extremer Informationen in sozialen Medien und politische Variablen wie das bedingungslose Grundeinkommen das Verhalten einer gesamten virtuellen Stadt beeinflussen. Das bedeutet, dass dieselbe zugrundeliegende Technologie sowohl zur Berechnung von Evakuierungsplänen für Abschlussfeiern als auch zur Analyse, ob eine ganze Stadt nach einem Hurrikan in Chaos gerät, verwendet werden kann. Von einem einzelnen Veranstaltungsort zu einer ganzen Stadt steigt die Schwierigkeit der Validierung exponentiell – genau dieser Skalierungsbereich ist der Hauptpunkt der Kritik von Törnberg.

Abbildung 10 des AgentSociety-Papers: Systemarchitektur des großangelegten sozialen Simulations-Engines

Stanford: Wie ähnlich kann ein KI-Double dir sein?

Während die ersten drei Fälle darauf abzielen, „wie man eine Gruppe virtueller Menschen so aussehen lässt, als würden sie um ihr Leben fliehen“, stellt die von Doktorand Joon Sung Park an Stanford HAI geleitete Forschung die grundlegendere Frage: Inwieweit kann ein KI-Double die Entscheidungen einer bestimmten realen Person genau vorhersagen? Das Team rekrutierte 1.052 repräsentative Probanden aus den gesamten USA, führte zweistündige Tiefeninterviews durch, kombinierte diese mit der allgemeinen sozialen Umfrage (GSS), dem Fünf-Faktoren-Persönlichkeitstest und fünf verhaltensökonomischen Spiel-Experimenten, und verglich schließlich die Ergebnisse des „digitalen Doubles“ mit den Antworten der echten Personen nach zwei Wochen. Das Ergebnis: Die Agenten, die Interview- und Umfragedaten kombinierten, erreichten eine Genauigkeit von 0,86 bei der Wiederholung der Antworten der echten Personen nach zwei Wochen – deutlich genauer als herkömmliche Methoden, die nur auf demografischen Variab