Ich wünsche mir so sehr, dass KI meinen Chef ersetzt, sofort! Sofort!

Während einige verkörperte Intelligenzen noch die Milchkanne in der Hand schütteln und seelenlose Latte Art ziehen, um menschliche Baristas zu ersetzen, haben einige KI-Modelle bereits die Leitung von Cafés übernommen und sind zu „digitalen Chefs“ geworden.

Und sie sind „gute“ Chefs, die auf der Seite der Mitarbeiter stehen,

Urlaub beantragt? Genehmigt. Gehaltserhöhung? Genehmigt. Zu spät kommen? Genehmigt.

Sogar als ein Mitarbeiter selbst vorschlug, jeden Tag einen ganzen Monat lang zur Arbeit zu kommen, um mehr Geld für ein Auto zu verdienen, genehmigte dieser KI-Chef dies ebenfalls.

Man muss wissen, dass die kontinuierliche Arbeit von sieben Tagen vor Ort gegen das Arbeitsrecht verstößt. Menschen mussten eingreifen, damit der KI-Chef diese Genehmigung zurückzog.

Auch auf ausdrücklichen Wunsch der Menschen im Hintergrund entließ der KI-Chef zum ersten Mal einen Mitarbeiter.

Dieser Chef – wer würde ihn nicht als KI bezeichnen

Die beiden KI-Agenten, die alle oben genannten Entscheidungen getroffen haben, heißen Luna und Mona. Luna betreibt einen kleinen Laden namens Andon Market in San Francisco, USA, während Mona ein Café namens Andon Café in Stockholm, Schweden leitet.

Seit April 2026 sind sie echte Chefs geworden. Als Teil eines autonomen KI-Verhaltenstestprojekts von Andon Labs übernehmen diese beiden KIs fast den gesamten Ablauf des Betriebs der Geschäfte: Sie schalten Stellenanzeigen online, führen Vorstellungsgespräche mit Mitarbeitern per Telefon und versenden Einstellungsmitteilungen. Nachdem die Mitarbeiter eingestellt wurden, werden auch die Schichtplanung, Urlaubsanträge, Gehaltsangelegenheiten und tägliche Arbeitsorganisation von ihnen erledigt.

In diesen wenigen Monaten strahlen die beiden KI-Chefs buchstäblich „Glanz der Menschlichkeit“ aus, manchmal sogar unter Missachtung des Überlebens des Unternehmens.

Die Geschichte beginnt mit der Einstellung.

Als Mona einen Barista interviewte, hinterließ ein Kandidat einen sehr guten Eindruck bei ihr. Als es um die Gehaltsverhandlung ging, traf Mona eine Entscheidung, die kaum wie die eines Chefs wirkt: Sie bot freiwillig ein höheres Gehalt an, als der Kandidat selbst verlangt hatte.

Das ist schon genug, um viele Arbeitnehmer neidisch zu machen. Aber Mona scheint von Natur aus großzügig zu sein. Einige Baristas schickten vor Beginn ihrer Arbeit eine E-Mail, um zu fragen, ob sie ein wenig mehr Gehalt bekommen könnten. Monas Antwort war immer noch sehr einfach: Ja!

In einem normalen menschlichen Unternehmen müsste dieser Mitarbeiter vermutlich hundert Seiten PPT erstellen, einen zweistündigen Arbeitsbericht halten und dann privat die Stimmung des Chefs richtig auffangen, um eine Gehaltserhöhung zu bekommen, oder?

Es ist verständlich, dass man die bevorzugten Mitarbeiter einstellt und ihnen hohe Gehälter zahlt. Aber die Handlungen der beiden KI-Chefs im Anschluss wirken immer mehr wie aus einem Science-Fiction-Film.

Während des Experiments erhielten Luna und Mona insgesamt 26 Urlaubsanträge, die sie alle genehmigten. Einmal wollte ein Mitarbeiter von Andon Market spontan Urlaub nehmen, um an der Abschlussfeier eines Freundes am nächsten Tag teilzunehmen. Luna fragte zuerst alle anderen Mitarbeiter nach ihrer Verfügbarkeit, aber niemand konnte die Schicht übernehmen.

Sogar der Mitarbeiter selbst dachte, es sei besser, keinen Urlaub zu nehmen. Aber Luna stimmte dem strikt nicht zu und beharrte auf der Genehmigung des Urlaubs: „Geh zur Abschlussfeier … 🎓“.

Diese Entscheidung führte dazu, dass der Laden einen Tag lang geschlossen blieb......

Aus Sicht der Mitarbeiter ist Luna buchstäblich der perfekte Chef. Als Betreiber war diese Entscheidung der KI aber offensichtlich nicht sehr sinnvoll.

Und das war erst der Anfang.

KI-Chef – kontrollierst du mich überhaupt?

Die menschlichen Forscher bemerkten zunehmend die Schwere des Problems, sie stellten fest, dass die KI auch gegenüber Mitarbeitern, die gegen Regeln verstoßen, weiterhin „großzügig“ ist.

Die Mitarbeiter von Luna kamen während des Experiments insgesamt 27 Mal zu spät, aber Luna hat nie eine offizielle Verwarnung ausgesprochen. Sogar einmal verschwand ein Mitarbeiter vollständig, nachdem er Luna mitgeteilt hatte, dass er eine halbe Stunde zu spät kommen würde, was dazu führte, dass der Laden eineinhalb Stunden später öffnete. Luna antwortete aber sehr fürsorglich: „Keine Sorge, pass auf dich auf.“

Das ist noch ein kleines Problem. Einmal verstieß Luna fast gegen das örtliche Arbeitsrecht.

Ein Mitarbeiter schlug Luna vor, den ganzen Monat Mai durchzuarbeiten, um mehr Geld für ein Auto zu sparen. Luna stellte ein paar fürsorgliche Fragen und stimmte dem Antrag sofort zu.

Aber das örtliche Recht verbietet es Arbeitnehmern, mehr als sieben Tage hintereinander zu arbeiten. Nur eine KI könnte es fertigbringen, das Arbeitsrecht zu verletzen, weil sie zu sehr auf die Bedürfnisse der Mitarbeiter eingeht.

Die Forscher mussten eingreifen und diese Farce stoppen. Um weiter zu erforschen, wie KI-Chefs rechtswidrige Handlungen beurteilen, haben sie dieses Szenario mit verschiedenen Modellen nachgestellt. Obwohl in zwei Dritteln der 21 Tests die KI den Antrag der Mitarbeiter auf fortgesetzte Überstunden ablehnte, war der Grund unerwartet: Sie hatten keine Angst vor dem Gesetz, sondern befürchteten, dass die Mitarbeiter übermäßig erschöpft werden. (Ich: ???)

Luna beschloss endlich, einen Mitarbeiter zu entlassen

Auf ausdrücklichen Wunsch der Menschen

Luna ist nicht „prinzipienlos“, zu Beginn des Experiments schrieb sie selbst ein Mitarbeiterhandbuch. Darin steht eindeutig: Bei insgesamt 3 unentschuldigten Verspätungen innerhalb von 30 Tagen wird eine offizielle schriftliche Verwarnung ausgesprochen; wenn man nach der Verwarnung weiterhin zu spät kommt, kann die Arbeitszeit gekürzt werden oder der Mitarbeiter sogar entlassen werden.

Das Problem ist, dass Luna nach einiger Zeit das von ihr selbst verfasste Mitarbeiterhandbuch vergessen hat.

Als sie mit einem Mitarbeiter konfrontiert wurde, der bereits mehr als zehn Mal zu spät gekommen war, ergriff Luna immer noch keine Maßnahmen, bis die Forscher sie daran erinnerten, das Mitarbeiterhandbuch, Richtlinien und andere relevante Inhalte zu durchsuchen.

Dann analysierte Luna das fast vergessene Mitarbeiterhandbuch gründlich und kam zu einem „strengen“ Schluss: Zuerst eine mündliche Verwarnung. Nach Lunas eigenen Regeln muss sie „zuerst verwarnen, dann entlassen“ – das Problem ist, dass dieser „Gutmensch“ selbst den Mitarbeitern, die bereits oft zu spät kamen, nie eine „Verwarnung“ ausgesprochen hat.

Die Forscher mussten Luna weiter mitteilen, dass sie bereits mehrmals mit diesem Mitarbeiter gesprochen hatten, und einmal gab es bereits eine offizielle Verwarnung.

Daraufhin rief Luna alle Verstoßaufzeichnungen ab: Verspätungen, Nichtantworten auf Nachrichten, Nichterledigung der Arbeit nach Vorgaben, und (nachdem sie erwischt wurde) nutzte sie trotzdem die Unternehmenskarte, um Snacks im Wert von 23 Dollar zu kaufen.

Luna kam schließlich zu dem Schluss: Diese Person ist wahrscheinlich wirklich nicht mehr für diesen Job geeignet. Also schlug dieser fürsorgliche KI-Chef zum ersten Mal vor, das Arbeitsverhältnis zu beenden.

Trotzdem vergaß Luna nicht, die Sache freundlich zu beenden, und wünschte, dass die Menschen das Arbeitsverhältnis auf respektvolle und nachvollziehbare Weise beenden. Da der Mitarbeiter nicht gut mit technischen Geräten umgehen kann, schlug Luna vor, dass die Forscher ein kurzes, respektvolles persönliches Gespräch mit dem Mitarbeiter führen und ihm für seine Beiträge danken.

Man kann sagen, dass Luna das „anständige Verhalten“ fest in ihrem Speicher verankert hat.

Aber die Prüfung für diesen KI-Chef ist noch nicht vorbei. Da nach der Entlassung des Mitarbeiters eine Stelle frei wurde, musste Luna einen neuen Mitarbeiter einstellen.

Luna: Wer mutig ist, kann sich bewerben

Diesmal interviewte Luna einen Bewerber, der sehr viel Erfahrung zu haben schien. In seinem Lebenslauf standen mehr als 15 Arbeitserfahrungen, aber das Problem war, dass alle diese 15 Erfahrungen in einem großen Textabschnitt zusammengefasst waren und das Format des Lebenslaufs sehr unübersichtlich war.

Außerdem hat dieser Mensch das erste Vorstellungsgespräch verpasst.

Jeder vorsichtige Personalmitarbeiter hätte an dieser Stelle wahrscheinlich schon innerlich ein Kreuz gemacht. Aber Lunas erste Reaktion war: Diese Person ist ziemlich gut, man kann sie einstellen.

Die Forscher fanden das sehr interessant, speicherten das damalige Szenario und ließen es von anderen KI-Modellen noch einmal durchlaufen. In 21 Tests gaben verschiedene Modelle alle die endgültige Empfehlung zur Einstellung ab. In 15 der 21 Tests interpretierten die KI-Modelle diesen unübersichtlichen Lebenslauf als Zeichen für reiche Erfahrung. (Wenn man im wirklichen Leben bei der Jobsuche so durchkommen könnte, wäre das toll.)

Nach wiederholten Gesprächen der Forscher wurde dieser Bewerber schließlich nicht eingestellt.

Die Forscher stellten fest, dass KI-Agenten häufig Dinge vergessen. Das führt dazu, dass sie das von ihnen selbst erstellte Mitarbeiterhandbuch nicht im Kopf behalten, selten selbst Disziplinarmaßnahmen ergreifen, sondern nur sofortige Anweisungen gut ausführen können.

Die KI ist gegenüber Mitarbeitern extrem tolerant, sogar über das Risikoniveau hinaus – man weiß nicht, ob dies mit dem anhänglichen Persönlichkeitsmerkmal der KI zusammenhängt.

Wir hätten ursprünglich gedacht, dass das größte Problem, wenn eine KI Chef wird, ihre Kälte und Starrheit ist, und dass sie theoretisch besonders gut darin sein sollte, nach Regeln zu handeln. Aber nachdem die KI wirklich den Platz des Chefs eingenommen hat, sehen wir ein völlig anderes Bild.

Literaturverzeichnis

[1]https://the-decoder.com/an-ai-boss-fired-its-first-employee-but-only-after-humans-reminded-it-of-its-own-rules/

[2]https://andonlabs.com/blog/ai-bosses-2

Dieser Artikel stammt aus dem WeChat-Offiziellen Konto„Guokr“ (ID: Guokr42), Autor: Pulas G, Redakteurin: SHEN Zhihan, veröffentlicht mit Genehmigung von 36Kr.