Künstliche Intelligenz produziert massenhaft „Geister“

In der ersten Augustwoche veranstaltete der US-amerikanische Modekonzern Tapestry seinen zweiten KI-Gipfel am Hauptsitz in New York. Der Name Tapestry ist nicht jedermanns geläufig, aber seine unter der Marke Coach und Kate Spade geführten Produkte sind vielen Menschen bestens bekannt.

Früher verließ sich Tapestry hauptsächlich auf menschliche Untersuchungen, um die Vorlieben der Kunden zu ermitteln. Die Forscher verschickten Fragebögen an menschliche Befragte, führten Interviews durch und besuchten sie manchmal sogar zu Hause, um zu sehen, wie sie sich normalerweise kleiden und welche Kleidungsstücke sich in ihrem Kleiderschrank befinden.

Auf diesem Gipfel präsentierte das Consumer-Insights-Team des Unternehmens eine Gruppe sehr besonderer „Kunden“.

Diese „Kunden“ sind virtuelle Personen, die Tapestry mithilfe von KI auf der Grundlage der in der Vergangenheit angesammelten Verbrauchsforschungsdaten generiert hat. Sie simulieren junge Verbraucher in den USA und China. Wenn Tapestry neue Produkte, Preise oder Marketingpläne testen möchte, kann es sie zuerst Fragen beantworten lassen oder direkt mit ihnen chatten, wie in einer Fokusgruppe, um zu sehen, wie junge Verbraucher reagieren könnten.

Ein Journalist sprach vor Ort auch mit einem dieser KI-Kunden. Das Gespräch erstreckte sich vom Einkauf bis zum Alltag. Dieses nicht existierende „Mädchen“ erzählte dem Journalisten sogar, dass es sich in letzter Zeit große Sorgen um den Arbeitsmarkt macht.

Die zu Tapestry gehörende Marke Kate Spade nutzt diese KI-Kunden auch für die Schulung von Verkaufspersonal. Die Mitarbeiter können direkt per Sprache mit den KI-„Kunden“ sprechen und üben, wie sie Produkte vorstellen und auf Fragen der Kunden reagieren. Nach Abschluss des simulierten Verkaufs bewertet die KI auch die Leistung des Mitarbeiters.

Diese KI-Kunden werden von Anfang an als virtuelle Rollen verwendet, doch dieselbe Fähigkeit zur „Erschaffung von Menschen“ wird genutzt, um eine Vielzahl von im Verborgenen agierenden „Geistern“ zu erzeugen.

KI-Geister in den dunklen Ecken

US-amerikanische Hochschulen gehören bereits zu den Szenarien, in denen „KI-Geister“ am stärksten verbreitet sind.

In den letzten Jahren sind an US-amerikanischen Community Colleges eine große Anzahl sogenannter „Geiststudenten“ aufgetaucht. Sie sind keine echten Studenten, sondern Konten, die Betrügergruppen mit gestohlenen Identitäten oder einfach mit erfundenen Identitäten registriert haben. Im System der Schulen haben diese Konten ebenfalls Namen, Matrikelnummern, wählen Kurse und reichen Hausarbeiten ein, sodass sie sich nicht von normalen Online-Studenten unterscheiden.

Erfolgreich in die Schule einzudringen ist nur der erste Schritt.

Um zu warten, bis die staatlichen Studienbeihilfen eingehen, müssen die Betrüger diese falschen Studenten dazu bringen, die Rolle echter Studenten zu spielen.

Daher melden sich diese „Geiststudenten“ regelmäßig bei Online-Kursen an, erledigen Hausaufgaben, beteiligen sich an Interaktionen im Unterricht und antworten bei Bedarf auch auf die Lehrer. In der Zeit vor der KI-Ära mussten Betrüger diese Betrugsmasche mit einzelnen falschen Identitäten durchführen, heute kann dies fast vollständig der KI überlassen werden.

Die KI macht es viel einfacher, eine große Anzahl falscher Identitäten gleichzeitig zu steuern, und die Anzahl der falschen Identitäten, die eine Person gleichzeitig verwalten kann, steigt exponentiell an.

Eines der am stärksten betroffenen Gebiete ist Kalifornien. Im Jahr 2024 erhielt das kalifornische Community-College-System etwa 1,2 Millionen betrügerische Anträge, von denen schließlich 223.000 falsche Registrierungen bestätigt wurden. An einigen Schulen kam es sogar zu der Situation, dass falsche Studenten die beliebten Online-Kurse vollständig belegten, während echte Studenten, die eigentlich lernen wollten, keinen Zugang mehr bekamen.

Was die Studienbeihilfen betrifft, so wurde eine beträchtliche Summe an echtem Geld erbeutet.

Das US-Bildungsministerium gibt an, dass im Jahr 2025 durch verstärkte Prüfungen mehr als 1 Milliarde US-Dollar an Betrug bei der Studienförderung verhindert werden konnte, darunter auch Anträge, bei denen KI-Roboter als Studenten ausgegeben wurden. Für Betrügergruppen hat ein „Studenten“ die Chance, eine große Summe Geld zu erbeuten, solange er die Prüfungen der Schule und eine gewisse Zeit an Online-Kursen erfolgreich übersteht.

Ähnliche „Geister“ tauchen auch auf dem Arbeitsmarkt auf.

In diesem Jahr stieß das US-Unternehmen für die Bewertung von KI-Modellen Arena auf einen sehr seltsamen Bewerber. Der Lebenslauf schien unauffällig, das Interview verlief normal und er bestand sogar das technische Interview, das von Ingenieuren durchgeführt wurde. Als das Unternehmen ihn endgültig einstellen wollte, verschwand die Person plötzlich. Arena vermutete später, dass sie von dem Lebenslauf bis zum Interview möglicherweise die ganze Zeit mit einer falschen Identität zu tun hatte, die mit KI erstellt wurde.

Das ist erschreckend: Wenn diese „KI“ es will, kann sie offiziell mit der Arbeit beginnen. Wer sich hinter dieser Identität verbirgt und wie viele solcher KIs unter der Kontrolle von Menschen bereits in der Arbeitswelt untergetaucht sind, ist völlig unbekannt.

Diese Vorfälle sind bereits so häufig, dass die Personalbranche damit begonnen hat, sie gesondert zu erfassen. Das US-amerikanische IT-Forschungs- und Beratungsunternehmen Gartner befragte 3000 Bewerber, von denen 6 % zugaben, an Interviewbetrug teilgenommen zu haben. Gartner geht davon aus, dass bis 2028 jeder vierte Bewerberdatensatz weltweit gefälscht sein könnte.

Einige „Geister“ in der Finanzbranche führen sogar mehrere Jahre lang ein „normales Leben“, bevor sie zum Betrug eingesetzt werden.

Vor mehr als 20 Jahren gab es bereits eine Betrugsmasche namens „synthetische Identität“. Betrüger kombinieren Teile echter Identitätsdaten wie Sozialversicherungsnummern und Geburtsdaten mit gefälschten Namen, Fotos und Adressen, um eine Person zu erfinden, die in der Realität überhaupt nicht existiert. Anschließend eröffnet diese „Person“ Konten, beantragt Kreditkarten und Kredite. Einige Gruppen zahlen sogar pünktlich zurück, um die Kreditgeschichte langsam aufzubessern, bis das Kreditlimit hoch genug ist, um dann massiv Geld abzuheben.

Die KI hat diesen Prozess stark vereinfacht. Schritte, die früher einzeln vorbereitet werden mussten, können jetzt massenhaft generiert werden. Sogar Video- und Sprachprüfungen lassen sich mit KI-Tools umgehen.

Bis Ende 2024 belief sich das Kreditrisiko der US-Kreditinstitute durch Betrug mit synthetischen Identitäten auf 3,3 Milliarden US-Dollar. Auch das US-amerikanische Kreditauskunftsunternehmen TransUnion nennt die generative KI einen wichtigen Grund für die weitere Ausbreitung dieser Art von Betrug.

Die seriöse Kommerzialisierung der „KI-Menschenerschaffung“

Doch unter der Sonne, abseits der Schatten, ist die „Erschaffung von Menschen“ bereits offen zu einem Geschäft geworden.

Das US-amerikanische Marktforschungsunternehmen für KI Aaru bietet Unternehmen virtuelle Verbraucher an.

Ich nehme an, fast jeder hat schon einmal beim Ausfüllen von Fragebögen für andere geholfen.

Früher musste ein Unternehmen, wenn es herausfinden wollte, ob eine bestimmte Gruppe von Menschen ein neues Produkt kaufen würde, echte Personen für Fragebögen, Interviews oder Fokusgruppen rekrutieren. Aaru hingegen generiert auf der Grundlage echter Bevölkerungs- und Verbrauchsdaten eine große Anzahl virtueller Verbraucher mit unterschiedlichem Alter, Einkommen und Lebenshintergrund und lässt diese „Personen“ dieselben Fragen beantworten.

Als Aaru gerade erst begann, Kunden zu suchen, zeigte es gerne vor Ort, wie zuverlässig diese virtuellen Personen sind.

Es ließ die Kunden eine Frage vorlegen, zu der bereits eine Untersuchung mit echten Personen durchgeführt wurde und deren Ergebnis bekannt war, und ließ dann Hunderttausende virtuelle Verbraucher die Frage erneut beantworten.

Die Ergebnisse zeigten, dass die Ergebnisse der Untersuchungen, die die Forscher früher mit großem Aufwand bei echten Personen erhoben hatten, denen der KI-Simulation sehr nahe kamen – dadurch erhielt dieses Verfahren seine Überzeugungskraft.

Später wurden diese virtuellen Verbraucher in immer mehr Szenarien eingesetzt. Verlage lassen sie Buchumschläge auswählen, Getränkeunternehmen testen verschiedene Geschmacksrichtungen an ihnen, und Investmentinstitute prüfen vor der Übernahme eines Unternehmens, wie sich die simulierten Verbraucher entscheiden. Sogar politische Gruppen nutzen sie, um Kandidaten und politische Maßnahmen zu testen.

Anmerkung zum Bild: Vergleich der Bewertungen von echten Menschen und KI für einfache und komplexe Verpackungsdesigns

Bis Ende 2025 erreichte die Bewertung von Aaru bereits 1 Milliarde US-Dollar.

Ein weiteres US-amerikanisches KI-Startup namens Simile verfolgt einen anderen Ansatz für das Geschäft mit „KI-Geistern“.

Es erstellt einen „digitalen Zwilling“ einer echten Person auf der Grundlage einer großen Anzahl von Antworten und Materialien, die diese Person in der Vergangenheit hinterlassen hat.

Wenn neue Fragen auftauchen, muss nicht jedes Mal die eigentliche Person erneut herangezogen werden – man kann zuerst ihren KI-Abkömmling fragen.

Der US-amerikanische Kettendrogerie- und Gesundheitsdienstriese CVS hat dieses Verfahren bereits bei mehr als 400.000 echten Befragten eingesetzt. Aus 2,9 Millionen Antworten, die diese Personen in der Vergangenheit abgegeben haben, erstellt er digitale Zwillinge, vergleicht dann die Antworten der KI wiederholt mit den Ergebnissen der echten Personen – die Übereinstimmungsrate bei einigen Tests erreicht bis zu 95 %.

Aus menschlicher Sicht sind unsere eigenen Antworten eigentlich nicht so „zufällig“ und „unvorhersehbar“, wie wir glauben.

Das traditionsreiche US-amerikanische Meinungsforschungs- und Beratungsinstitut Gallup hat ebenfalls mehr als 1000 digitale Zwillinge eingesetzt, um politische, unternehmerische und gesellschaftliche Trends zu erforschen.

Die Kapitalmärkte stehen diesem Geschäft sehr positiv gegenüber. Ende Juli dieses Jahres schloss Simile eine Finanzierungsrunde über 200 Millionen US-Dollar ab, die Bewertung des Unternehmens erreichte 2 Milliarden US-Dollar – nur fünf Monate zuvor hatte es die vorherige Runde mit 100 Millionen US-Dollar abgeschlossen.

Der direkteste Grund, warum Unternehmen bereit sind, virtuelle Verbraucher einzusetzen, ist die Zeitersparnis. Eine Runde von Fragebögen oder Interviews in der traditionellen Marktforschung dauert oft mehrere Wochen. KI-Verbraucher können jederzeit befragt werden: Sobald ein Plan überarbeitet wurde, kann er sofort erneut getestet werden, ohne jedes Mal eine neue Gruppe von Befragten rekrutieren zu müssen.

Die Unternehmenskunden von Simile zahlen dafür jährlich zwischen 150.000 US-Dollar und mehreren Millionen US-Dollar.

Natürlich ist es noch nicht so weit, dass man auf echte Personen vollständig verzichten kann. Unternehmen wie CVS führen weiterhin Untersuchungen mit echten Personen durch und müssen ständig mit echten Antworten überprüfen, ob die KI zuverlässig ist. Doch der Trend, dass „KI-Geister“ die anonyme Masse der Öffentlichkeit ersetzen, hat sich bereits durchgesetzt.

Da das Geschäft mit virtuellen Verbrauchern immer ausgereifter wird, werden „KI-Geister“ auch in immer mehr Branchen eingesetzt.

Im Februar dieses Jahres hat das Biowissenschaftsberatungsunternehmen Lumanity die KI-Plattform für virtuelle Rollen EMULaiTOR auf den Markt gebracht, die speziell für Pharmaunternehmen Patienten, Ärzte und Personen generiert, die für die Entscheidung über die Kostenerstattung von Arzneimitteln zuständig sind. Pharmaunternehmen können mit diesen virtuellen Personen sprechen, um zu testen, wie Informationen zu Arzneimitteln leichter verständlich vermittelt werden können, welche Fragen Ärzte stellen könnten und wo Patienten Bedenken haben. Das System wurde vor der offiziellen Einführung etwa ein Jahr lang getestet und bereits in praktischen Projekten mehrerer Pharmaunternehmen eingesetzt.

Sogar im Rechtswesen gibt es jetzt KI-Versionen von Geschworenen.

Im Juni dieses Jahres hat das US-amerikanische Legal-Tech-Unternehmen Courtroom einen Simulationsdienst für KI-Geschworene und KI-Richter auf den Markt gebracht. Anwälte können vor der eigentlichen Gerichtsverhandlung den „Geister-Gerichtssaal“ nutzen, um zu testen, wie „Geschworene“ mit unterschiedlichem Hintergrund reagieren werden.

Courtroom gibt an, dass die Simulationsgenauigkeit dieses Systems über 90 % liegt. Große US-Anwaltskanzleien und Unternehmen der Fortune-1000 haben es bereits in echten Fällen wie Produkthaftung und Patentverletzung eingesetzt.

Bitte beweisen Sie, dass Sie wirklich ein Mensch sind

Nachdem „KI-Geister“ in die realen Geschäftsprozesse eingetreten sind, verschwimmt die Grenze zwischen Mensch und KI immer mehr. Noch problematischer ist, dass die „Geister“ in der illegalen Szene absichtlich als echte Menschen ausgegeben werden.

Schulen, Unternehmen und Online-Plattformen