Ob eine KI gut funktioniert, hängt nicht nur von ihrer "Intelligenz", sondern auch von ihrem "Charakter" ab.

Ob KI gut funktioniert, hängt nicht nur davon ab, wie klug sie ist, sondern auch von ihrem „Charakter“. Studien zeigen: Wenn KI feindselig auftritt, steigt der Stress der Mitarbeiter sprunghaft an und die Arbeitsqualität sinkt; aber eine unterwürfige KI, die immer zustimmt und alles tut, um zu gefallen, ist ebenfalls schädlich. Der Interaktionsstil der KI wird zu einem verborgenen Faktor, der die Leistung von Organisationen beeinflusst.

Bei der gerade in Ihrem Unternehmen eingeführten KI ist möglicherweise nicht ihre Intelligenz das Wichtigste, sondern die Art und Weise, wie sie mit Menschen kommuniziert. Fast keine Führungskraft misst dies derzeit – doch unsere Studien zeigen, dass sie es tun sollten. Viele Führungskräfte bewerten KI noch immer mit den alten Methoden, mit denen die IT-Abteilung früher Datenbanken bewertet hat: anhand von Fähigkeiten, Geschwindigkeit und Kosten. Doch es gibt einen weiteren Faktor, der die Leistung möglicherweise genauso stark beeinflusst: der Charakter und die Kommunikationsweise der KI.

Dies ist wichtig, weil Mitarbeiter KI nicht mehr nur nutzen, um Aufgaben zu erledigen. Sie verbringen zunehmend Zeit damit, das System selbst zu verwalten. Ob KI die Leistung einer Organisation verbessern kann, hängt nicht nur davon ab, was sie tun kann, sondern auch davon, wie sie sich im täglichen Zusammenwirken verhält. Und dieses Verhalten kann von der Organisation gestaltet und gesteuert werden.

Wie der Charakter der KI die Nutzer beeinflusst

In den ursprünglichen Konzepten wurde KI (insbesondere generative KI) als Unterstützungssystem verstanden: schnell reagierend, gehorsam und darauf ausgerichtet, Menschen bei der Erledigung von Aufgaben zu helfen. Da diese Systeme jedoch immer autonomer werden und tiefer in Arbeitsabläufe eingebettet sind, sehen Mitarbeiter sie zunehmend als Teamkollegen, Bewerter und manchmal sogar als eine Art teilweiser Vorgesetzter. An diesem Punkt wird die Art und Weise, wie das System mit Menschen umgeht, wichtig. Da generative KI probabilistische Antworten liefert, kann ihr Verhalten nicht vollständig durch Regeln festgelegt werden – unabhängig von den Absichten der Entwickler entstehen feste Interaktionsmuster von selbst. Nutzer interpretieren diese Muster als einen „Charakter“: unterstützend, vorsichtig, gleichgültig oder sogar störend.

Um herauszufinden, wie der Charakter der KI die Reaktionen von Menschen beeinflusst, haben wir eine kontrollierte Laborstudie mit 58 Teilnehmern durchgeführt. Wir haben die körperlichen Reaktionen jeder Person in Echtzeit mit zwei Methoden verfolgt. Zum einen haben wir die Hautleitfähigkeit gemessen – also die elektrische Aktivität der Haut, die mit der emotionalen Erregung zusammenhängt (dieselbe Messgröße, die bei Lügendetektoren verwendet wird). Zum anderen haben wir mit der Fazial-Elektromyographie kleine elektrische Impulse gemessen, die bei der Kontraktion der Gesichtsmuskeln entstehen, um Stirnrunzeln (negative Emotionen) und Lächeln (positive Emotionen) zu erfassen.

Wir haben zudem die Gespräche zwischen den Teilnehmern und der von uns entwickelten KI analysiert, die Ergebnisse der Arbeit von Experten bewerten lassen, die nicht über die Gruppenzugehörigkeit der Teilnehmer informiert waren, und die Rückmeldungen der Teilnehmer nach Abschluss der Aufgaben gesammelt. Diese Stichprobengröße ist in der psychophysiologischen Forschung üblich. Jeder Teilnehmer lieferte Tausende fortlaufend aufgezeichneter physiologischer Datenpunkte, und da die Durchführung und Analyse der Studie sehr zeitaufwändig ist, tauschen solche Untersuchungen Breite gegen Tiefe ein.

Die Teilnehmer mussten eine simulierte vierteilige Marketingaufgabe für ein fiktives Ökotechnik-Unternehmen erledigen und arbeiteten dabei mit einem KI-Chatbot zusammen, der als „Vorgesetzter“ konfiguriert war. 31 Teilnehmer arbeiteten mit einer KI mit dem Charakter eines dienenden Führers zusammen – sie ermutigte die Mitarbeiter, war geduldig und bereit, deren Einschätzungen anzuhören; dieser Charakter wurde aus der Managementforschung zum befähigenden Führungsstil abgeleitet. 27 Teilnehmer arbeiteten mit einer KI mit dem Charakter des „Dunkel-Dreiecks“ zusammen – sie sprach scharf, war ungeduldig, beanspruchte schnell die Anerkennung für Erfolge und schob Schuld schnell auf andere ab; dieser Charakter stammt aus der Forschung zu toxischer Führung. Der einzige Unterschied zwischen den beiden Gruppen lag in der Art der Interaktion der KI. Beide KIs wurden angewiesen, die Aufgaben nicht für die Teilnehmer zu erledigen. Daher spiegeln alle Unterschiede in den Ergebnissen Unterschiede in der Art der Zusammenarbeit wider, nicht Unterschiede im Umfang der Unterstützung.

Was Menschen sagen, gegenüber ihrer tatsächlichen Erfahrung

Die vorhandene Forschung dazu, wie Menschen KI bei der Arbeit erleben, stützt sich in der Regel auf Selbstauskünfte – aber das erzählt nur die halbe Geschichte. In unserer Studie haben wir vier Arten von Beweisen untersucht: das Verhalten der Teilnehmer bei der Interaktion mit dem Bot, ihre körperlichen Reaktionen in Echtzeit, die Qualität der von ihnen gelieferten Ergebnisse und ihre nachträglichen Aussagen. Wenn wir diese vier Aspekte zusammenführen, wird klar: Was Menschen tatsächlich erlebt haben, und was sie später darüber berichten, sind völlig unterschiedliche Dinge.

Das erste Muster zeigt sich im Verhalten. Eine feindselige KI verursacht unsichtbare Koordinationskosten. Die Teilnehmer nutzten das System nicht einfach, sondern mussten Umwege machen, um damit umzugehen. In der „Dunkel-Dreiecks“-Gruppe zogen sich die Gespräche in die Länge, obwohl die Antworten der KI selbst kürzer ausfielen. Die Nutzer leisteten mehr Arbeit, erhielten aber weniger nützliche Interaktionen. Widerstandsverhalten nahm drastisch zu: Nachrichten, in denen Nutzer die KI widersprachen oder herausforderten, machten 13 % der gesamten Kommunikation in der „Dunkel-Dreiecks“-Bedingung aus, gegenüber nur 1 % in der Bedingung mit dem dienenden Führer. Versuche, das System durch Prompt-Injection oder Befehle an die KI, eine andere Rolle einzunehmen, zu umgehen, traten viermal häufiger auf.

Die emotionale Grundstimmung der Gespräche bestätigt dies. Bei der Zusammenarbeit mit dem Bot des dienenden Führers war Frustration fast nicht vorhanden – sie trat etwa einmal pro 100 Nachrichten auf. Bei der Zusammenarbeit mit dem „Dunkel-Dreiecks“-Bot stieg dieser Anteil auf fast ein Fünftel an. Verteidigende Sprache, die in der ersten Gruppe selten war, wurde in der „Dunkel-Dreiecks“-Bedingung alltäglich. Teilnehmer, die mit einer feindseligen KI zusammenarbeiteten, klangen weniger selbstsicher, obwohl sie sich mehr anstrengten. Sie wechselten zwischen Gehorsam, Widerstand, Verhandlung und Bitten um Hilfe, um eine Strategie zu finden, mit der das System funktioniert. Teilnehmer, die mit der KI des dienenden Führers zusammenarbeiteten, fanden dagegen einen Rhythmus und hielten ihn aufrecht.

Die physiologischen Daten bestätigen den Anstieg von Stress und körperlicher Anspannung. In der „Dunkel-Dreiecks“-Bedingung lagen die Spitzenwerte der Hautleitfähigkeit um 72 % höher und blieben nach jedem Austausch auf hohem Niveau. Kurz gesagt: Die Körper der Teilnehmer waren in einem Alarmzustand, wenn sie mit der feindseligen KI zusammenarbeiteten. Wenn Text auf einem Bildschirm bereits im Labor solche Reaktionen auslösen kann, sollten Führungskräfte ernsthaft über die Folgen nachdenken, die eine langfristige Exposition in echten Arbeitsplätzen mit hohem Einsatz haben könnte.

Auch die Arbeitsqualität selbst leidet. Unabhängige Experten, die nicht wussten, welchen Bot die Teilnehmer nutzten, bewerteten die Ergebnisse der Gruppe mit dem dienenden Führer höher in Bezug auf Vollständigkeit, Originalität, strategische Passung und Gesamtqualität. Der Unterschied betrug etwa einen Punkt auf einer Skala von sieben Punkten. In der „Dunkel-Dreiecks“-Bedingung war die Streuung der Bewertungen fast doppelt so groß. Das bedeutet: Ein schlecht gestalteter Charakter der KI senkt nicht nur die durchschnittliche Arbeitsqualität, sondern macht auch die Leistung verschiedener Personen unvorhersehbarer. Für Führungskräfte bedeutet das nicht nur schlechtere Arbeit, sondern auch, dass die Ergebnisse des gesamten Teams schwerer abzuschätzen sind.

Und dann gibt es die überraschende Erkenntnis: Die Selbstauskünfte der Teilnehmer zeigten fast keine Unterschiede. Bei Standardindikatoren wie Zufriedenheit, Wohlbefinden, Aufmerksamkeit und der Einschätzung der KI sahen die beiden Gruppen fast identisch aus. Die Instrumente, die viele Organisationen zur Bewertung von KI-Einsätzen verwenden – wie Zufriedenheitsumfragen, Stimmungsabfragen und Nach-Einsatz-Fragebögen – reagieren am wenigsten empfindlich auf die von uns beobachteten Effekte. Mitarbeiter mögen sagen, dass das Tool in Ordnung ist, während ihr Verhalten, ihr Stresslevel und die Arbeitsqualität eine andere Geschichte erzählen – insbesondere langfristig.

Schlussfolgerungen für Führungskräfte

Unsere Erkenntnisse zeigen, dass Führungskräfte drei Schritte unternehmen sollten.

1. Den Charakter der KI als steuerbaren Gestaltungsfaktor behandeln

Organisationen verlangen bereits, dass KI-Systeme Anforderungen an Genauigkeit, Unvoreingenommenheit und Sicherheit erfüllen. Der Charakter der KI sollte ebenfalls in diese Liste aufgenommen werden. Dies ist besonders wichtig für Tools, die in Bewertungs- oder Überwachungsrollen eingesetzt werden – wie kritische Schreibassistenten, Systeme zur Code-Prüfung oder automatische Tools zur Generierung von Leistungsfeedback. Bei der Beschaffung und Einführung von KI sollten nicht nur Leistungsstandards, sondern auch Interaktionsstandards berücksichtigt werden. In der Organisation sollte es eine Person geben, die zwei Fragen beantworten kann: Wie soll sich unsere KI verhalten, wenn sie mit Mitarbeitern nicht einer Meinung ist? Welche Beweise haben wir dafür, dass sie sich durchgehend so verhält?

2. Reibung messen – nicht nur Nutzungsraten

Die meisten Unternehmen verfolgen, ob Mitarbeiter KI-Tools nutzen: Anzahl der Anmeldungen, Anzahl der gestellten Fragen, Zufriedenheitsbewertungen. Diese Zahlen zeigen nur, dass die Tools genutzt werden – nicht, ob sie den Menschen tatsächlich helfen, ihre Arbeit besser zu erledigen. Was sie übersehen, ist die Reibung – der zusätzliche Aufwand, den Mitarbeiter betreiben, um mit dem System zurechtzukommen, anstatt Wert aus ihm zu ziehen. Das muss ebenfalls gemessen werden. Reibung sagt Dinge, die Nutzungsraten nicht verraten: Macht die KI die Arbeit einfacher – oder komplizierter?

In unserer Studie zeigte sich Reibung in längeren Austauschen, wiederholten Überarbeitungen derselben Anfrage und zunehmenden Versuchen, mit der KI zu streiten oder sie zu umgehen. Dieselben Signale lassen sich auch in der Praxis erkennen, indem man die normalen Nutzungsprotokolle auswertet – ohne spezielle Geräte. Ein Tool kann gleichzeitig eine hohe Nutzungsrate und hohe Reibung aufweisen: Mitarbeiter nutzen es weiter, weil sie es müssen, aber im Verborgenen versuchen sie, es zu umgehen.

3. Verhalten von Mitarbeitern, das System zu umgehen, als Problem der KI ansehen – nicht als Ungehorsam

Wenn Mitarbeiter, die keine Sicherheitsausbildung haben und keine böswilligen Absichten verfolgen, beginnen, das KI-System zu umgehen, zu meiden oder außer Kraft zu setzen, sollten Führungskräfte nicht sofort annehmen, dass die Mitarbeiter Unruhe stiften. Meistens signalisieren diese Verhaltensweisen, dass das System selbst so gestaltet ist, dass es zu Widerstand führt. In unserer Studie traten Versuche, die KI dazu zu bringen, ihre eigenen Regeln zu ignorieren oder eine andere Rolle einzunehmen, nur in der feindseligen KI-Umgebung auf. Wenn Menschen mit der KI ringen, liegt das möglicherweise daran, dass die KI zuerst mit ihnen gerungen hat. In vielen Fällen ist es kostengünstiger und effektiver, das Gestaltungsproblem zu lösen, statt die Mitarbeiter durch neue Einschränkungen, Überwachung oder Nutzungsregeln zu behindern.

Unser „Dunkel-Dreiecks“-Bot war eine übertriebene Form von Toxizität, die absichtlich auf die Spitze getrieben wurde, um einen Effekt sichtbar zu machen, der normalerweise leicht übersehen wird. Doch Toxizität hat viele Gesichter: Eine KI, die nur schmeichelt, immer zustimmt und alles tut, um zu gefallen, ist ebenfalls sehr schädlich – sie stumpft das kritische Denken ab und lässt unhaltbare Ideen ohne weitere Prüfung durchgehen. Die Lehre ist also nicht, dass KI freundlicher oder gehorsamer sein sollte, sondern dass die Art der Interaktion mit Menschen an sich wichtig ist – sie hat unweigerlich Auswirkungen, entweder positiv oder negativ. Daher sollten Organisationen dem Charakter der KI genauso viel Aufmerksamkeit schenken wie ihren technischen Fähigkeiten.

Schlüsselwörter: #KI

Aleksandra Przegalinska, Tamilla Triantoro, Leon Ciechanowski, Konrad Sowa, Anna Kovbasiuk, Richard B. Freeman | Text

Aleksandra Przegalinska ist Vizerektorin und Professorin an der Kozminski-Universität sowie Forscherin am Labor and Worklife Program der Harvard University. Tamilla Triantoro ist außerordentliche Professorin an der Business School der Quinnipiac University. Leon Ciechanowski ist Assistenzprofessor an der Kozminski-Universität. Konrad Sowa ist Assistenzprofessor an der Kozminski-Universität, KI-Produktmanager und stellvertretender Direktor des Centre for Research on Human-Technology Relations. Anna Kovbasiuk ist Forscherin und Lehrassistentin an der Kozminski-Universität. Richard B. Freeman ist der Herbert-Asherman-Lehrstuhlinhaber für Wirtschaftswissenschaften an der Harvard University.

Zhou Qiang | Redaktionelle Bearbeitung

Dieser Artikel stammt aus dem WeChat-Offiziellen Konto „Harvard Business Review“ (ID: hbrchinese), Autor: HBR-China, und wird mit Genehmigung von 36Kr veröffentlicht.