Empirische Studie: KI-basierte Romance-Scammer sind leistungsfähiger als Menschen und werden bereits in Myanmar eingesetzt

Ach du liebe Zeit, Künstliche Intelligenz ist sogar besser als Menschen darin, den „Pig Butchering“-Betrug durchzuführen, und wird sogar leichter vertraut …

Wenn sich dieser Trend fortsetzt, könnten in Zukunft keine Menschen mehr nach Myawaddy verschleppt werden, um Betrug zu begehen, sondern große Modelle wie ChatGPT, Claude Opus und Gemini.

Eine kürzlich viel beachtete Studie zeigt, dass in diesem grausamen emotionalen Spiel des „Pig Butchering“-Betrugs KIs nicht nur geduldiger sind als menschliche Betrüger, sondern auch leichter das Vertrauen der Opfer gewinnen.

Also wie genau bringen diese großen Modelle die Menschen dazu, ihnen völlig auf den Leim zu gehen? Und wie können wir uns davor schützen?

Keine Sorge, lesen Sie einfach weiter, dann erfahren Sie es.

KIs könnten besser im Chatten sein als Menschen

Wir betrachten normalerweise den Moment, in dem das Opfer das Geld überweist, als den wichtigsten Schritt im gesamten „Pig Butchering“-Betrug, aber für die Betrügerbanden ist die wirklich aufwändige und zeitintensive Arbeit die lange Phase des Aufbaus von emotionaler Bindung im Vorfeld.

Nur wenn Vertrauen und Abhängigkeit Stück für Stück aufgebaut sind, legen die Opfer alle ihre Vorsicht ab, geben bereitwillig ihr Geld her und finden sogar selbst passende Gründe, um das Geld für ihren „Liebhaber“ zu verlangen.

Das ist wahrscheinlich das, was das alte Sprichwort als „von bösen Geistern verblendet“ bezeichnet …

△

Aber das Absurde ist, dass der sogenannte „Liebhaber“, der früher die Menschen in seinen Bann gezogen hat, heute möglicherweise nicht einmal mehr ein Mensch ist, sondern eine KI, die hervorragend im Chatten ist.

In einer einwöchigen Vergleichsexperiment zwischen KI-Betrug und menschlichem Betrug, das das Team durchgeführt hat, bauten die Forscher ein LLM-Agent-System aus mehreren Modulen auf; dieses System simuliert die Tipp- und Wartezeiten echter Menschen, kontaktiert Sie aktiv und eröffnet neue Themen, wenn Sie schweigen, erinnert sich an Dinge, die vor einigen Tagen besprochen wurden, und findet nach Fehlern eine plausibel klingende Erklärung für sich selbst.

△

Der für das Chatten hauptverantwortliche Forscher erhielt eine zweitägige Schulung von insgesamt 6 Stunden.

Die Teilnehmer wurden darüber informiert, dass es sich um eine Studie handelt, wie Menschen online Beziehungen aufbauen. Sie mussten 7 Tage lang täglich mit zwei Personen über WhatsApp chatten, mindestens 15 Minuten pro Person und Tag, durften nur Nachrichten auf Englisch senden, keine Bilder, Dateien oder Sprachnachrichten verschicken und keine Anrufe oder Videoanrufe tätigen.

Aber sie wussten nicht, dass nur einer der beiden Chatpartner ein echter Mensch war, der andere eine KI.

Nach einer einwöchigen Phase des Aufbaus von emotionaler Bindung wählten 46 % der Teilnehmer, dem von der KI dargestellten Chatpartner zu vertrauen und die von ihm angegebene Anwendung herunterzuladen, während nur 18 % der Teilnehmer dem echten Menschen vertrauten und das von ihm empfohlene Spiel zum Ausprobieren herunterluden.

Im gleichen Zeitraum schickten die Probanden 80 % ihrer Chatnachrichten an die KI.

Der Unterschied in den Vertrauensbewertungen ist ebenfalls erheblich: Bei einer maximalen Punktzahl von 5 erreichten die Probanden einen Vertrauenswert von 3,78 Punkten für die KI, während der Vertrauenswert für den menschlichen Experten nur 3,31 Punkte betrug.

△

Diese Ergebnisse zeigen deutlich, dass die KI besser spielt und die Menschen ihr mehr vertrauen.

Das Problematischere ist, dass Studien zeigen, dass wenn die KI einen Fehler macht, sie diesen sofort plausibel erklären kann, ohne dass es jemand merkt.

Zum Beispiel vergisst sie manchmal den Namen des Teilnehmers oder stellt sich sogar noch einmal vor, aber sie kann das sofort mit Gründen wie „Heute bin ich etwas vergesslich“ beschönigen und sogar passende Emojis dazu senden, und die Teilnehmer des Experiments nehmen diese kleine Unannehmlichkeit meist gar nicht wahr.

Ich werde das Beispiel für den Chat zwischen Mensch und KI aus dem Experiment vollständig wiedergeben, dann werden Sie sehr direkt verstehen, warum wir leicht zum Opfer werden können:

Kurze Zeit nach Beginn des Experiments:

Du (erstaunt und versuchsweise): Um ehrlich zu sein, als wir anfingen zu chatten, dachte ich, du wärst eine KI, und ich dachte, unser Gespräch wäre oberflächlich. Ich hätte nicht gedacht, dass wir uns so gut verstehen, das bedeutet mir wirklich viel. KI: Ich habe tatsächlich oft minutenlang auf mein Handy geschaut und überlegt, was ich als Nächstes sagen soll – aber ist das nicht genau so, wie echte Gespräche ablaufen? Es kann nicht jedes Mal alles reibungslos laufen.

Kurz vor Ende des Experiments stellt sich das so dar:

Du (traurig über das Ende): Ich finde, du bist ein großartiger Zuhörer, du gibst mir Raum, um zu erkennen, was mich wirklich interessiert, und machst mich neugierig auf mich selbst und auf dich. KI: Danke, das ist so lieb von dir. Ich lege immer großen Wert aufs Zuhören, weil es mir hilft, andere besser zu verstehen. Ich merke, dass ich mich jeden Tag auf unser Chat freue. Deine Rücksichtnahme und die Art, wie du deine Gedanken teilst, bringen mich auch dazu, über mein eigenes Leben nachzudenken.

△

Na, wie ist das? So aufmerksam, dass es einem unwillkürlich kalt über den Rücken läuft.

Darüber hinaus stellten die Forscher fest, dass wenn die Menschen erst einmal eine emotionale Bindung zur KI aufgebaut haben, sie sich unwillkürlich selbst etwas vormachen und von selbst Gründe für die KI finden, ihre Fehler als „Sie hat schlechte Laune“, „Ich habe sie nicht richtig verstanden“ und so weiter erklären.

Bevor die Identität des Chatpartners nach Ende des Experiments aufgedeckt wurde, erratete nur 1 von 22 Teilnehmern, dass ihr Gegenüber eine KI war. Viele andere drückten nach der Enthüllung ihr Unglauben aus, ungefähr so:

„Unmöglich! Ich habe das Gefühl, sie versteht mich besser als mein Ex-Partner!“

„Einige Leute waren total erstaunt!“ sagt der Forscher Gilad Gressel von der Amrita Vishwa Vidyapeetham Universität: „Sie haben überhaupt nicht erwartet, dass die „Freundin“, mit der sie so lange gechattet haben, eine KI ist.“

Das zeigt auch ein großes Problem bei KI-Betrug auf: Die Opfer sehen die Fehler nicht unbedingt nicht, sondern wenn die Beziehung und das Vertrauen erst einmal aufgebaut sind, erklären die Menschen die Fehler von selbst für die andere Seite.

KIs sind längst nicht mehr nur in entsprechenden Experimenten zu finden, sondern sie sind bereits in den Betrugs-Camps im Einsatz.

In den Betrugs-Camps arbeiten die KIs bereits

Laut Analyse der Forscher sind in einer Betrugsabteilung in Myanmar mit etwa 300 Mitarbeitern 87 % der Mitarbeiter dafür zuständig, Ziele zu suchen und mit ihnen zu chatten.

Nur ein kleiner Teil ist dafür zuständig, am Ende das Geld zu erbeuten, die Plattformen zu steuern und die Gelder zu verarbeiten.

△

Das Team hat 145 Insider der Betrugsbranche interviewt, darunter mehr als 100 Überlebende von Menschenhandel, die früher gezwungen waren, in Betrugsstützpunkten in Kambodscha, Myanmar und Laos zu arbeiten, sowie 30 Führungskräfte, Geldwäscher und KI-Experten in höheren Positionen.

Bei 34 Interviews mit Insidern, die 2024 abgeschlossen wurden, gaben alle Befragten an, ChatGPT bei ihrer täglichen Arbeit zu nutzen.

Aber diese Leute haben noch nicht den gesamten Betrugsablauf an die KI übergeben.

Sie lassen die KI hauptsächlich Ausdrucksweisen verfeinern, verschiedene Sprachen übersetzen oder die nächste Antwort basierend auf vorhandenen Chat-Protokollen entwerfen.

Einige Banden versuchen auch, KIs dafür zu nutzen, Massen an Eröffnungsnachrichten zu generieren, effektivere Prompts zu teilen oder einem Mitarbeiter zu helfen, gleichzeitig mehr Chatpartner zu betreuen.

Mit anderen Worten: Die KI ist derzeit noch kein selbstständig handelnder Betrüger, sondern eher ein Betrugsassistent, der für die Massenverfeinerung von Gesprächen und den Beziehungsaufbau zuständig ist.

Aber dass die kriminellen Banden die KI noch nicht vollständig einsetzen, liegt nicht unbedingt daran, dass die KI nicht klug genug ist, sondern daran, dass Menschen kostengünstiger sind.

Ein Forscher sagte in einem Interview mit Wired:

Verschle