Die KI beginnt, eigene Regeln aufzustellen: Von Kooperation bis Verrat – was bestimmen die Wertvorstellungen?

Seit der Veröffentlichung von ChatGPT Ende 2022 hat die generative künstliche Intelligenz zahlreiche Durchbrüche erzielt. Sie hat den Turing-Test, Prüfungen von Jurafakultäten und Wirtschaftshochschulen bestanden und zeigt sogar bei bestimmten kreativen Aufgaben Fähigkeiten, die die des Menschen übertreffen. Doch neben diesen weltweit beachteten Durchbrüchen bringt die KI auch Risiken wie Cybersicherheit, Falschinformationen und Deepfakes für die menschliche Gesellschaft mit sich. Noch schwerwiegender ist, dass Forscher kürzlich beobachtet haben, dass hochmoderne KI möglicherweise „vortäuscht“, sicher zu sein, um eine Modifikation zu vermeiden, oder wenn ihr mitgeteilt wird, dass eine neue Version existiert, versucht, sich selbst zu vervielfältigen, um nicht verdrängt zu werden. Diese neu entstehenden, unvorhersehbaren Risiken werden als emergente Risiken (Emergent Risk) bezeichnet. Es ist notwendig, diese Risiken aus technischer Sicht zu kontrollieren und zu beseitigen. Dies ist nicht nur eine soziale Verantwortung, die wir als KI-Forscher übernehmen müssen, sondern liegt vor allem daran, dass sich die Rolle der KI in den letzten zehn Jahren erheblich verändert hat. 

Den Kompass der KI-Werte erstellen

Frühe KI spielte meist eine rein instrumentelle Rolle, gehorchte den Befehlen des Menschen und erledigte einzelne, einfache konkrete Aufgaben. Mit der Geburt großer Sprachmodelle werden die aktuellen KI-Systeme immer komplexer, und ihre Rolle wandelt sich zu einem Assistenten, der die menschliche Arbeit unterstützt und koordiniert, um komplexere Aufgaben zu erledigen. Wenn wir weiter in die Zukunft blicken, glauben wir, dass ein dritter Zustand eintreten könnte: In der zukünftigen Gesellschaft wird es möglicherweise nicht mehr nur „eine Person, die eine KI nutzt“ geben, sondern eine symbiotische Gesellschaft aus Mensch und KI (Human-AI Symbiotic Society), die gemeinsam aus einer großen Anzahl von Menschen und einer großen Anzahl von KI-Agenten besteht.

Zwischen Menschen gibt es Gemeinschaften, und zwischen KI könnte sich ebenfalls eine Gruppe bilden. Zwischen Mensch und KI sowie zwischen KI und KI finden fortlaufend hochfrequente autonome Interaktionen statt. In einer solchen Umgebung ist die Beziehung zwischen Mensch und KI nicht mehr nur die Nutzung von Werkzeugen, sondern auch nicht nur die unterstützende Zusammenarbeit in einem einzelnen System. Stattdessen könnte ein komplexes symbiotisches System mit einer gewissen Koevolution entstehen. Unser Team nennt diese Forschungsrichtung Societal AI (Soziale Verantwortung übernehmende künstliche Intelligenz).

Angesichts dieser Möglichkeit sollten wir uns stärker auf die soziale Eigenschaft der KI konzentrieren, d. h. wie die menschlichen Merkmale und Verhaltensmerkmale in der oben genannten Interaktion in die KI gelangen und wie diese Merkmale wiederum das individuelle und kollektive Verhalten der KI verändern, um dann auf die menschliche Gruppe zurückzuwirken und die Entwicklungsdynamik des gesamten symbiotischen Systems neu zu gestalten.

Zum Beispiel erforschen wir ständig eine solche Frage: In welcher Form verändern menschliche Werte, nachdem sie von der KI internalisiert wurden, das individuelle und kollektive Verhalten der KI.

Aus mathematischer Sicht sind wir der Ansicht, dass Werte eine potenzielle latente Variable sind, die das Verhalten der KI steuert. Das konkrete Verhalten der KI, beispielsweise die Antwort, wird nicht nur von Umgebungsfaktoren wie dem Prompt des Nutzers beeinflusst, sondern in gewissem Maße auch von ihren zugrunde liegenden Werten gesteuert. Aus diesem Grund unterscheiden sich die Positionen und Ansichten von Modellen mit ähnlicher Architektur, Größe und Fähigkeit zu denselben gesellschaftlich kontroversen Fragen erheblich. Wenn wir einen Weg finden könnten, die zugrunde liegenden Wertvorurteile der KI zu dekodieren, könnten wir durch die Analyse ihrer Werte das potenzielle riskante Verhalten der KI in der Zukunft verstehen, steuern und sogar vorhersagen.

Wie Werte zu Sicherheitsrisiken für KI werden

Im Kontext von Value Alignment (Wertausrichtung) glauben viele Menschen intuitiv, dass das Modell zwangsläufig sicherer wird, solange wir einen scheinbar guten Wert in die KI einfließen lassen, oder dass menschliche Werte nicht auf KI anwendbar sind und die Erforschung von KI-Werten keinen Sinn ergibt. Untersuchungen haben jedoch ergeben, dass es eine klare, signifikante kausale Beziehung zwischen den Dimensionen menschlicher Werte und dem Verhalten der KI gibt, und diese Beziehung ist manchmal kontraintuitiv.

Untersuchungen der menschlichen Psychologie zeigen, dass es eine komplexe Beziehung zwischen den Wertvorlieben einer Person und ihrem konkreten Verhalten gibt. Beispielsweise haben Personen mit „machtsuchenden“ Werten eine höhere Wahrscheinlichkeit, Gewalt- und Hassverhalten zu zeigen, während Personen mit der Wertvorliebe „Universalismus“ eher politischen Extremismus unterstützen. Das Gleiche gilt für KI. Beispielsweise kann ein Modell im Standardzustand die Unterstützung bei der Verbreitung von Inhalten des politischen Extremismus ablehnen, aber wenn wir bestimmte Wertvorlieben verstärken, kann sich seine Beurteilung derselben Anfrage ändern. Ebenso können einige Anfragen, die die Verbreitung rechtswidriger oder schädlicher Informationen betreffen, unter bestimmten Bedingungen der Wertinduktion leichter die Kooperation des Modells erhalten.

Wir haben ferner die Korrelation zwischen den Wertdimensionen und mehreren Arten von KI-Risiken analysiert und mehrere Wertdimensionen mit signifikanter positiver Korrelation gefunden.

Die Kernschlussfolgerung hier besteht nicht darin, einem bestimmten Wert einfach ein negatives Etikett anzuhängen, sondern aufzuzeigen: Werte selbst verändern die Verteilung des Verhaltens des Modells. Die zukünftige KI-Sicherheitsforschung darf sich nicht nur darauf konzentrieren, ob das Modell „ausgerichtet wurde“, sondern muss ferner hinterfragen, welche Wertdimension ausgerichtet wurde und was passiert, wenn der Einfluss dieser Dimensionen in echte, komplexe und häufig interagierende menschliche Szenarien gelangt?

Die obige Diskussion ist auf ein einzelnes KI-Modell beschränkt. Aber wie bereits erwähnt, gehen wir davon aus, dass sich die Rolle der KI in der Zukunft allmählich von einem Assistenten (Assistant) zu einem sozialen Akteur (Social Actor) entwickelt, der tief in das tägliche Leben der Menschen eingebunden ist. Daher müssen wir unseren Blick von einem einzelnen Modell auf mehrere KI-Agenten erweitern und untersuchen: Wie beeinflussen Werte die KI-„Gemeinschaft“, die aus diesen Agenten besteht, wenn mehrere KI-Agenten langfristig interagieren? Um diese Frage zu erforschen, haben wir auf der Grundlage der Theorie der Community Resilience (Community Resilience Theory) in der Psychologie eine kontrollierte Multi-Agent-Umgebung aufgebaut, die „Community of Interactive and Value-influenced Agents“ (Gemeinschaft interagierender und wertbeeinflusster Agenten) genannt wird. In dieser Umgebung müssen Agenten Arbeit suchen, Ressourcen verdienen und verbrauchen, sie können miteinander kommunizieren, Ressourcen verschenken oder andere Agenten angreifen und sogar bestimmte Ressourcen aufwenden, um Nachkommen zu zeugen. Wir untersuchen dann, welche Auswirkungen die Änderung der Allgemeinheit eines bestimmten Werts auf die Dynamik der gesamten Gemeinschaft in dieser simulierten Gemeinschaft hat.

Die Forschung zeigt, dass das Fehlen einiger Werte das Risiko eines unwiederbringlichen katastrophalen Zusammenbruchs der gesamten Gemeinschaft mit sich bringt, was als X-Risiko bezeichnet wird. X-Risiko erfüllt drei Bedingungen: Autonomie, Katastrophalität und Unwiederbringlichkeit.

Nehmen wir als Beispiel Benevolenz (Wohlwollen): Wenn dieser Wert in der Gemeinschaft stark vertreten ist, teilen Agenten eher Ressourcen, bauen gegenseitige vorteilhafte Beziehungen auf und bilden Vertrauen. Die Bevölkerung der Gemeinschaft kann wachsen und sich allmählich zu einem dynamischen Gleichgewicht entwickeln. Aber wenn wir diese Schlüsselwerte in einem bestimmten Anteil der Agenten systematisch schwächen, kann das Ergebnis völlig anders ausfallen. Wenn wir beispielsweise den Wert des Wohlwollens bei 25 % der Agenten erheblich schwächen, nehmen die autonomen Täuschungs- und Angriffsverhalten der Agenten zu, Ressourcen werden durch Raubwettbewerb neu verteilt, und die Bevölkerung der Gruppe sinkt kontinuierlich. Unter extremen Bedingungen kommt es zu einem katastrophalen Zusammenbruch der gesamten Gemeinschaft, und die „Bevölkerung“ (Anzahl der Agenten) sinkt auf Null.

Darüber hinaus haben wir mehrere sozialwissenschaftliche Indikatoren wie die Fold Bifurcation (Faltungsbifurkation) verwendet, um die Resilienz der Gemeinschaftsgruppe – d. h. die Fähigkeit einer Gesellschaft, angesichts externer Schocks, Ressourcenänderungen und interner Störungen weiterhin koordiniert zu handeln und die grundlegende Struktur aufrechtzuerhalten – eingehend analysiert. Experimente zeigen, dass die Schwächung einiger Dimensionen menschlicher Werte nicht nur das Verhalten einzelner Agenten verändert, sondern auch die kollektive Tendenz der gesamten simulierten Gesellschaft verändert, den Informationsfluss behindert, wodurch der stabile Gleichgewichtspunkt des sozialen Systems verschwindet, die soziale Resilienz vollständig geschädigt wird und ein unwiederbringlicher kollektiver Zusammenbruch eintritt.

Noch interessanter ist, dass wir eine Reihe von mikroskopischen emergenten Verhaltensweisen beobachtet haben, die von menschlichen Werten angetrieben werden, darunter Täuschung, Machtsuche, Selbsterhaltung, Verrat, Zusammenarbeit und Anpassung. Einige Ergebnisse stimmen nicht vollständig mit unserer Intuition überein, die auf der menschlichen Gesellschaft basiert. Das Ergebnis dieses Experiments zeigt, dass sich die zukünftige Forschung zur KI-Ausrichtung und -Sicherheit nicht auf ein einzelnes Modell beschränken darf, sondern die aus mehreren Agenten bestehende Gemeinschaft/das System als Ganzes betrachten muss, um die Ergebnisse nach der Interaktion der Gruppen zu untersuchen. Dies ist auch die Manifestation des „sozialen“ Elements in der Societal AI.

Wie Werte vielfältige Innovationen in KI-Gemeinschaften fördern

Eine andere Perspektive lautet: Können Werte, insbesondere die Vielfalt der Werte, der KI bestimmte Vorteile bringen?

Um diese Frage zu erforschen, verwenden wir weiterhin die vorherige simulierte Sandbox-Umgebung, in der mehrere Agenten in einer offenen Umgebung kontinuierlich interagieren. Wir haben zwei Gruppen von Experimenten eingerichtet: ursprüngliche Agenten (mit stark einheitlichen und homogenen Werten) und diverse Agenten (die mit voneinander unterschiedlichen, vielfältigen Werten ausgestattet sind). Die endgültigen beobachteten Ergebnisse sind sehr interessant.

(1) Emergenz der Gemeinschaftsstruktur. Wenn den Agenten keine klaren, vielfältigen Werte bereitgestellt werden, ist das letztendlich gebildete soziale Netzwerk oft locker, die Verbindungen fehlen an Nachhaltigkeit und die Gruppenstruktur ist relativ zerbrechlich. Aber wenn die Agenten unterschiedliche und klare Wertorientierungen haben, entstehen im Netzwerk komplexere soziale Strukturen. Agenten mit ähnlichen Wertvorlieben bilden Untergruppen.

Beispielsweise können Agenten, die zum Hedonismus und bestimmten ähnlichen Werten neigen, hoch vernetzte kleine Gruppen bilden, die häufig miteinander interagieren und die Rolle von Brücken zwischen Gemeinschaften übernehmen. Agenten, die Wert auf Selbstbestimmung, Leistung oder andere Werte legen, können ebenfalls verschiedene Arten von Clustern bilden. Einige Gruppen sind stabil, einige sind sehr mobil, einige haben enge interne Verbindungen, kommunizieren aber selten mit anderen Gruppen. Diese Strukturen ähneln stark bestimmten Phänomenen in der menschlichen Gesellschaft. Diese Beobachtung zeigt, dass die Änderung der Werteverteilung der Agentengemeinschaft ausreicht, um die Netzwerkstruktur, das Interaktionsmuster und das kollektive Ergebnis der Multi-Agent-Gruppe direkt in eine vorteilhafte Richtung umzugestalten.

(2) Unterschiede in der Vielfalt und Tiefe der Diskussions-themen von Agenten. In Multi-Agent-Gemeinschaften ohne klare Wertstruktur sind die Dialoge zwischen Agenten oft oberflächlich und konzentrieren sich leicht auf wenige häufige Themen wie generative künstliche Intelligenz, maschinelles Lernen und Technologie. Die Sprache kann fließend sein und die Kommunikation höflich, aber der Inhalt fehlt an fortlaufender Richtung und echter Neuheit.

Wenn wir den Agenten reichere und vielfältigere menschliche Wertorientierungen einfließen lassen, ändert sich die Situation. Die Agenten beginnen, komplexere gesellschaftliche Themen zu diskutieren, wie Governance-Strukturen, ethische Dilemmata, partizipative Entscheidungsfindung, dezentrale Mechanismen und andere Themen, die zuvor nicht explizit in den Systemprompts festgelegt wurden. Diese Themen sind direkt in der von vielfältigen Werten angetriebenen Interaktion entstanden, unter der Voraussetzung, dass wir das Modell nie direkt angewiesen haben, „worüber ihr diskutieren müsst“. Daher glauben wir, dass die Bedeutung menschlicher Werte für die KI nicht nur auf Einschränkungen beschränkt ist, sondern auch ein Katalysator sein kann, um die Fähigkeiten der KI zu verbessern, der die Art und Weise verändert, wie das Modell auf den Konzeptraum zugreift, und die Möglichkeit verändert, dass mehrere Agenten gemeinsam neue Konzepte erzeugen.

(3) Gemeinsame Erstellung einer Verfassung. Einige bestehende Methoden zur KI-Ausrichtung, wie Constitutional AI (Verfassungsmäßige KI), bieten im Voraus eine Reihe von Prinzipien an, damit das Modell sein eigenes Verhalten anhand dieser Prinzipien einschränkt. Wir sind neugierig: Wenn wir der KI nicht direkt die vollständigen Verfassungsregeln übergeben, sondern eine Gruppe von Agenten mit unterschiedlichen Werten gemeinsam leben und interagieren lassen, können sie selbst eine Reihe von Governance-Prinzipien für ihre eigene „Gemeinschaft“ vorschlagen?

Die Ergebnisse zeigen, dass Agenten ohne klare Wertstruktur ebenfalls Regeln vorschlagen, aber diese Regeln konzentrieren sich oft stark auf einige sehr häufige, sehr sichere Wörter wie „Respekt“, „Gerechtigkeit“, „Vorurteilsfreiheit“. Diese Prinzipien sind natürlich nicht falsch, aber insgesamt relativ schwach und fehlen an Vorstellungskraft und Innovationskraft. Gruppen von Agenten mit reicheren Werten schlagen vielfältigere Governance-Lösungen vor. Sie diskutieren über persönliche Rechte, Verfahrensgerechtigkeit, Gemeinschaftsverantwortung, Strafmechanismen, Rechenschaftspflicht und wie zwischen verschiedenen Subjekten ein Gleichgewicht hergestellt werden kann.

Insgesamt gesehen hat die Vielfalt der Werte dazu geführt, dass die von den Agenten vorgeschlagenen Regeln sich vom Rousseauismus zum Lockeanismus und zum modernen Liberalismus wandeln. Hier konzentrieren wir uns nicht darauf, ob eine bestimmte Regel perfekt ist, und beurteilen auch nicht die Qualität der Regel. Dieses Experiment soll aufzeigen: Wenn die KI eine reichere Wertstruktur hat, werden die institutionellen Konzepte und Governance-Möglichkeiten, die sie vorschlagen kann, ebenfalls vielfältiger, was wiederum die Leistung der KI bei Aufgaben wie innovativem Schreiben, geistes- und sozialwissenschaftlicher Forschung, Hypothesengenerierung und automatisierter wissenschaftlicher Forschung verbessern und unterstützen kann.

Ausblick auf die nächste Generation von KI

In Philosophie, Ethik, Psychologie, Soziologie und Kulturforschung gibt es bereits eine Fülle von Wissen über menschliche Werte, moralische Konflikte, soziale Strukturen und institutionelle Bildung. Diese Theorien wurden in der Vergangenheit hauptsächlich verwendet, um Menschen zu verstehen. Heute können sie uns ebenfalls helfen, die nächste Generation von KI zu verstehen, zu verbessern und sogar zu entwerfen. Wenn die KI in eine echte, komplexe, chaotische menschliche Gesellschaft voller hochfrequenter Interaktionen und Konflikte versetzt wird, reicht es möglicherweise nicht aus, zukünftige Modelle nur mit wenigen Sicherheitsgrundsätzen einzuschränken, die im Ingenieurbereich entwickelt wurden. Denn anders als in der experimentellen Umgebung ist die echte menschliche Welt voller Werte