Das viral durch die Decke gegangene Muse lässt tatsächlich echte Menschen anstelle von KI Telefonanrufe tätigen?

Mit genügend Geduld kann man immer darauf warten, dass Meta neue kuriose Geschichten liefert.

Wie es nun kommt: Laut Enthüllungen vom 22. September testet Meta bereits eine neue Funktion für seine Mitarbeiter, bei der echte Menschen für Muse-Nutzer Anrufe tätigen – eine Aufgabe, die ursprünglich als KI-Funktion vorgesehen war.

Dieser Dienst heißt „human concierge“, also menschlicher Concierge. Nutzer übergeben Aufgaben an Muse, das wiederum einen Teil der Anrufanfragen an externe Auftragnehmer weiterleitet, damit echte Personen die Anrufe tätigen und die Angelegenheiten erledigen.

Bisher geht aus den Berichten hervor, dass es sich um einen internen Test für Mitarbeiter handelt und der Dienst noch nicht für reguläre Nutzer freigegeben ist. Sobald die Nachricht verbreitet wurde, hat die Öffentlichkeit Meta nicht verschont. Aufgrund der Kontroverse hat Meta dieses Projekt nun dringend zurückgezogen.

Das musste ja zurückgezogen werden: Plötzlich verwandelt sich die angesagte KI-Software in einen altmodischen Anrufvermittlungsdienst.

Jüngere Leser wissen das vielleicht nicht: In den 2000er Jahren waren solche Dienste im In- und Ausland weit verbreitet. Zum Beispiel kooperierte China Mobile bereits 2003 mit Ctrip, um landesweite Hotel- und Flugbuchungsdienste anzubieten. In Shanghai gab es sogar einen „Kleinen Sekretär für Essensbestellungen“, der täglich Tausende von Anrufen zur Essensbestellung tätigte.

Die Netznutzer haben nicht geschwiegen: Einige haben bereits über die Outsourcing-Kosten gescherzt: „Arbeitskräfte auf den Philippinen sind billiger als Tokens.“ Andere haben spöttisch kommentiert: „Die von Menschen betriebene KI existiert tatsächlich.“ „KI = Assistant Indians (indische Assistenten).“

Das Lustigste ist: Man weiß nicht, ob Mark Zuckerberg eine besondere Vorliebe für die Anruferledigung durch echte Menschen hat – vor zehn Jahren hat er bereits genau das Gleiche gemacht.

Anrufe durch echte Menschen: Selbst die Mitarbeiter können es nicht fassen

Jeder weiß, wie erfolgreich die App Muse gestartet ist. Zehn Tage nach der Veröffentlichung belegte sie den ersten Platz der kostenlosen iPhone-App-Liste im US-amerikanischen App Store, vor ChatGPT, Gemini, Claude und sogar dem hauseigenen Instagram.

Am 22. September berichtete Reuters unter Berufung auf Daten von Sensor Tower, dass die kumulierte Anzahl der Downloads von Muse seit der Veröffentlichung bereits 2,5 Millionen überschritten hat. Das bedeutet, dass dieses neue Produkt innerhalb von nur zwei Millionen Downloads angezogen hat.

Ihr Hauptvorteil ist, dass sie Nutzern bei der Erledigung von Aufgaben hilft: E-Mails senden, Reisen organisieren und sogar Anrufe in Ihrem Namen tätigen.

Aber im praktischen Einsatz stellte Meta ein Problem fest: Einige Personen legen sofort auf, sobald sie merken, dass sie von einer KI angerufen werden, was die Erfolgsrate der Aufgaben direkt beeinträchtigt. Ein Mitarbeiter berichtete, dass er Muse gebeten habe, eine Versicherungsgesellschaft anzurufen, aber die Gegenseite legte wiederholt auf, sobald sie erfuhr, dass es sich um eine KI handelte.

In entsprechenden Diskussionsforen äußerten sich Netznutzer tatsächlich so: „Wenn eine KI in mein Geschäft anruft, lege ich sofort auf.“

Irgendein schlauer Kopf bei Meta hatte plötzlich die Idee: Warum lassen wir nicht einfach echte Menschen die Anrufe tätigen?

Egal wer diesen Vorschlag gemacht hat – Zuckerberg hat zugestimmt, und so wurde der Test des „human concierge“-Dienstes mit echten Anrufern bei Meta intern gestartet.

Meta war sogar sehr rücksichtsvoll und wies in der internen Mitteilung ausdrücklich darauf hin, dass Mitarbeiter, die nicht am Test teilnehmen möchten, einer speziellen Gruppe beitreten können, um sich abzumelden.

Es ist doch nur ein Dienst, bei dem echte Menschen Anrufe tätigen – ein bisschen altmodisch, aber was soll schon schiefgehen?

Eine Menge. Man muss bedenken: Bei der Vorstellung von Muse hat Meta ausdrücklich die Sicherheit hervorgehoben.

Gemäß der offiziellen Beschreibung verfügt jeder Nutzer von Muse über eine eigenständige virtuelle Maschine in der Cloud, die von der Ausführungsumgebung anderer Nutzer isoliert ist. Sensible Informationen wie Passwörter und Zahlungsnachweise werden in einem sicheren Speicher abgelegt, auf den Muse zugreifen kann, aber deren Inhalt nicht einsehen kann. Nutzer können außerdem festlegen, auf welche Anwendungen Muse zugreifen darf und welche Berechtigungen sie erhält.

Wenn die KI-Anrufe aber durch Anrufe von echten Menschen ersetzt werden, gibt es Drittauftragnehmer – und damit entstehen Risiken für den Datenschutz der Nutzer. Dass Sie bereit sind, Ihre Angelegenheiten von einer KI erledigen zu lassen, bedeutet nicht, dass Sie auch wollen, dass ein Fremder erfährt, welche Aufgabe Sie erledigen wollen und welche persönlichen Informationen Sie dafür preisgeben müssen.

Laut Berichten von 404 Media berichteten Mitarbeiter in internen Diskussionen, dass Kollegen, die am Test teilnahmen, erst nach Abschluss des Anrufs erfuhren, dass die Person, die für sie angerufen hat, ein echter Mensch war. Zuvor hatten sie beim Bereitstellen von Informationen angenommen, dass die Aufgabe von einer KI ausgeführt wird.

Auf die Bedenken der Mitarbeiter hin erklärte Meta, dass die Auftragnehmer umfassend geschult werden, um die Datensicherheit zu gewährleisten. Aber einige Mitarbeiter wiesen direkt darauf hin, dass Schulungen kein Sicherheitsmechanismus sind. Andere warnten, dass bei einer tatsächlichen Veröffentlichung die Nutzer zumindest selbst wählen können sollten, anstatt die Funktion standardmäßig zu aktivieren.

Das ist leicht nachvollziehbar: Den Nutzern zu sagen „diese Person wurde geschult“ ist etwas völlig anderes, als sie im Voraus darüber zu informieren, dass ihre Daten an diese Person weitergegeben werden.

Darüber hinaus gibt es ein weiteres Problem: Hinter den Anrufen durch echte Menschen stehen lebendige Menschen, die natürliche Unwägbarkeiten mit sich bringen.

Ein Mitarbeiter bat Muse, seinen Internet- und Kabelfernsehanbieter anzurufen, um über den Rechnungsbetrag zu verhandeln. Als er sich das Anrufprotokoll ansah, stellte er fest, dass der Mitarbeiter des Auftragnehmers während des Anrufs eine Äußerung mit rassistischen Untertönen gemacht hatte. Meta entschuldigte sich daraufhin bei diesem Mitarbeiter und teilte mit, dass die betroffene Person künftig nicht mehr an irgendeinem Meta-Projekt teilnehmen wird.

Eigentlich wollte man die Zuverlässigkeit durch menschliche Anrufer erhöhen – aber dann muss man wieder die Probleme bewältigen, die diese Menschen verursachen.

Als diese Angelegenheit bekannt wurde, war Meta ziemlich peinlich berührt – schließlich ist Muse gerade sehr erfolgreich, und dann passiert so ein Vorfall.

Ein Vizepräsident des Superintelligence-Labors von Meta räumte ein, dass es ein Fehler war, den Test von Anrufen durch echte Menschen zu starten, ohne dies umfassend offenzulegen. Das Unternehmen hat diese Funktion vorübergehend zurückgezogen. Zurückgezogen wird nur die interne Testfunktion für Anrufe durch echte Menschen – nicht die gesamte App Muse, und auch nicht alle KI-Anruffunktionen werden abgeschaltet.

Nach außen betonte Meta, dass der interne Test ursprünglich dazu gedient habe, Feedback zu sammeln, um Sicherheit und Datenschutz vor der öffentlichen Veröffentlichung zu verbessern. Diese potenzielle Funktion wird erst dann veröffentlicht, wenn sie fertiggestellt ist und eine angemessene Offenlegung erfolgt.

Als Grund für die Notwendigkeit der Beteiligung von Menschen nannte Meta die Erfolgsrate. Der Vizepräsident erklärte, dass in einigen Tests Anrufe durch echte Menschen die Erfolgsrate auf 95 % bis 98 % steigern konnten, was über der Leistung von KI-Anrufen liegt.

Aber das Merkwürdige ist hier: Die Erfolgsrate soll gesteigert werden – aber was genau wird eigentlich gesteigert, wenn Menschen hinzugezogen werden?

Für Nutzer, die einfach nur ihre Angelegenheiten erledigen wollen, kann die Unterstützung durch echte Menschen natürlich wertvoll sein. Aber wenn ein Mensch die Aufgabe erledigt, bedeutet das nicht, dass die KI es gelernt hat. Wenn Nutzer nicht einmal wissen, wer ihre Aufgabe ausführt, ist diese schöne Erfolgsrate sehr zweifelhaft.

Nicht nur Meta arbeitet an Funktionen, bei denen KI Anrufe tätigt, um Aufgaben zu erledigen. Google hat bereits 2018 Duplex vorgestellt, mit dem KI über Telefon Restaurants reservieren oder Friseurbesuche vereinbaren kann.

Dass Unternehmen keine KI-Anrufe entgegennehmen wollen, lässt sich nicht einfach auf Vorurteile von Menschen gegenüber KI zurückführen. Zumindest nach Aussagen einiger Personen, die Anrufe entgegennehmen, ist das Problem sehr praktisch: Die KI ist noch nicht flüssig genug und verschwendet Zeit.

Ein Netznutzer berichtet, dass er in einem Restaurant arbeitet und seit einiger Zeit Anrufe von KI erhält, die nach einer Reservierung fragen oder prüfen, ob das Restaurant voll ist. Aber die Roboter sprechen sehr langsam, und im Hintergrund sind künstlich hinzugefügte Geräusche zu hören, die den Anruf wie ein echter menschlicher Anruf wirken lassen sollen. Ausgerechnet diese Anrufe kommen immer dann, wenn er gerade damit beschäftigt ist, Gäste zu bedienen.

Wer in einem Restaurant arbeitet, ist schon ständig total beschäftigt – solche Anrufe zu erhalten, ist einfach frustrierend.

Deshalb liegt der Schlüssel für diese Probleme letztendlich darin, dass die KI ihre entsprechenden Fähigkeiten verbessern muss. Die Idee, fehlende KI-Leistung durch Menschen auszugleichen, muss gründlich überdacht werden.

Warum ist Zuckerberg so auf „Anrufe durch echte Menschen“ fixiert?

Als ich erfahren habe, dass Meta diesen Vorfall zu verantworten hat, habe ich