Ich lache mich tot, sie haben 350.000 KI-Systeme trainiert, so zu tun als wären sie auf den Betrug hereingefallen, sodass die Betrüger 17 Jahre lang umsonst gearbeitet haben.

In nur 4 Tagen wurde er 3 Mal weiterverkauft.

Anfang 2025 schockte der Fall des Schauspielers Wang Xing, der nach Myawaddy in Myanmar betrogen wurde. Als Wang Xing merkte, dass etwas nicht stimmte, war er bereits an die Grenze zwischen Myanmar und Thailand gebracht worden und wurde anschließend von bewaffneten Personen festgehalten.

Betrüger im Zeitalter der KI werden immer besser darin, Dinge so zu gestalten, dass sie absolut echt wirken.

Doch ein australisches Startup namens Apate.ai trainiert KI gezielt darauf, sich „betrügen“ zu lassen.

Im August dieses Jahres schloss Apate eine Seed-Finanzierungsrunde über 8,15 Millionen US-Dollar ab und erhielt eine Investition von der US-amerikanischen Risikokapitalfirma Lobby Capital.

Der Satz „Ein Betrüger wird von einem anderen Betrüger hereingelegt“ ist nun Wirklichkeit geworden.

Die Entstehung von Apate geht auf ein Familienpicknick zurück.

Vor einigen Jahren erhielt Dali Kaafar, der in der Abteilung für Cybersicherheitsforschung an der Macquarie University arbeitete, einen betrügerischen Anruf. Seine Familie fand das sehr lustig, aber Kaafar erkannte darin ein Geschäftspotenzial.

Nach seiner Rückkehr an die Macquarie University in Australien startete Kaafar entsprechende Forschungsarbeiten, um maschinelles Lernen, Verarbeitung natürlicher Sprache und automatisierte Gesprächstechniken zur Abwehr von Telekommunikationsbetrug einzusetzen. Bis 2024 wurden diese Forschungsergebnisse kommerziell angewendet, woraufhin das Unternehmen Apate gegründet wurde.

Eigentlich ist die Verwendung von künstlicher Intelligenz, um Betrüger zum Narren zu halten, nichts Neues.

Im Jahr 2024 hat der britische Telekommunikationsbetreiber O2 einmal eine künstliche Intelligenz namens dAIsy auf den Markt gebracht, die eine ältere Frau darstellt. Die Spezialität dieser „Großmutter“ ist nicht Square Dance, sondern das Chatten mit Telefonbetrügern.

Dieses System nutzt Technologien wie Spracherkennung, Sprachmodelle und Sprachsynthese, um natürliche Gespräche zwischen Mensch und Maschine zu ermöglichen. O2 hofft, auf diese Weise die Zeit der Betrüger zu verschwenden und gleichzeitig die Öffentlichkeit für die Risiken von Telefonbetrug zu sensibilisieren.

Die Ambitionen von Apate sind offensichtlich noch größer.

Abgesehen davon, dass die Betrüger dazu gebracht werden, sich völlig auszuschweifen, will Apate außerdem wertvolle Informationen erhalten, beispielsweise betrügerische Websites, Bankkonten für Geldeingänge, Adressen von Kryptowährungs-Wallets und Informationen über die nachgeahmten Institutionen.

Um dieses Ziel zu erreichen, verfügt Apate über keine Liste, die betrügerische Telefonnummern weltweit genau identifizieren kann. Denn im realen Kontext können Betrüger häufig ihre Nummern wechseln, Internettelefonie nutzen, den Anrufer vortäuschen und Kommunikationsnetze zwischen mehreren Ländern und Regionen für die Weiterleitung verwenden.

Apate bietet eine schichtweise Lösung an.

Zuerst werden verdächtige Kommunikationsverhaltensweisen erkannt, danach führt die künstliche Intelligenz aktive Interaktionen durch. Nach dem Sammeln neuer Beweise im Verlauf der Interaktion werden diese an das Anti-Betrugs-System weitergeleitet. Es geht nicht darum, die echte Telefonnummer jedes einzelnen Betrügers genau zu ermitteln, sondern gemeinsam mit Telekommunikationsbetreibern Anrufe, die als hochriskant eingestuft wurden, an die KI zur Bearbeitung weiterzuleiten.

Bei der Zusammenarbeit mit dem australischen Telekommunikationsbetreiber TPG Telecom nutzt TPG zunächst seine vorhandenen Fähigkeiten zur Erkennung von Anti-Betrugs-Risiken, um verdächtige Kommunikationsverhaltensweisen zu erkennen und einen Teil der hochriskanten Anrufe an das KI-System von Apate weiterzuleiten.

Der gesamte Prozess erfordert kein Herunterladen und Installieren von Software durch die Verbraucher selbst.

Aus den öffentlichen technischen Dokumenten von Apate geht hervor, dass sein Sprachsystem VoIP-Kommunikationsprotokolle wie SIP/RTP verwenden kann, um Zugang zu bestehenden Telefonnetzen zu erhalten, und lokale, private Cloud- sowie hybride Bereitstellungen ermöglichen kann.

Auf diese Weise können Betrüger von der KI abgefangen werden, bevor sie überhaupt mit dem tatsächlichen Opfer in Kontakt treten.

Dieses Modell hat bereits die Aufmerksamkeit von Investoren auf sich gezogen.

Im August dieses Jahres schloss Apate eine Seed-Finanzierungsrunde von etwa 11,4 Millionen Australischen Dollar (ca. 8,15 Millionen US-Dollar) ab, die von Lobby Capital angeführt wurde, an der sich mehrere Institutionen wie OIF Ventures, Investible, Concept Ventures und Baobab Ventures beteiligten. Zuvor hatte das Unternehmen bereits eine Investition von etwa 2,5 Millionen US-Dollar erhalten.

Die neue Finanzierungsrunde wird für technologische Forschung und Entwicklung, die Expansion in die Märkte der USA und Europas und andere Angelegenheiten verwendet. Apate arbeitet bereits als Unternehmen nach dem Recht des US-Bundesstaates Delaware und plant, das Geschäft in Nordamerika auszuweiten, ein Büro in London zu gründen, während das Forschungs- und Entwicklungsteam in Sydney verbleibt.

Bis heute beschäftigt das Unternehmen etwa 20 Mitarbeiter. Zu seinen Kunden gehören Institutionen wie die Commonwealth Bank of Australia und TPG Telecom.

Denn im Vergleich zu hohen Ausgaben für einen Roboter, der Betrüger zur Wut bringt, sind Banken und Betreiber offensichtlich eher bereit, für Informationen zu zahlen, die Betrug wirksam eindämmen können.

Das ist die „Geschäftsphilosophie“ von Apate.

50 Minuten mit Betrügern chatten

Wenn Sie schon einmal eine Kundendienstnummer angerufen haben, werden Sie mit KI-Sprach-Kundendiensten vertraut sein.

Mechanische elektronische Töne, seltsame Satzunterbrechungen, übermäßig standardisierte höfliche Formulierungen und die passende Pause vor jeder Antwort – Sie müssen nicht einmal eine zweite Frage stellen, um zu wissen, dass auf der anderen Seite kein Mensch sitzt.

Apate hat es nicht mit gewöhnlichen Nutzern zu tun, die Probleme schnell lösen wollen, sondern mit einer Gruppe von Betrügern, die ebenfalls gut darin sind, die Stimmung des Gegenübers zu deuten und die Reaktionen des Gesprächspartners zu testen. Wenn die Betrüger merken, dass die Gegenseite künstliche Intelligenz verwendet, legen sie sofort auf.

Daher besteht die erste Herausforderung für Apate darin, die künstliche Intelligenz so weit wie möglich dazu zu bringen, einen echten Menschen nachzuahmen.

Laut einer am 10. Oktober von WIRED veröffentlichten Mitteilung sagte Kaafar, Gründer von Apate, dass das Unternehmen etwa 350.000 virtuelle KI-Identitäten erstellt hat.

Sie haben unterschiedliche Alter, Persönlichkeiten, Sprachkenntnisse und Lebenserfahrungen und können Anrufe tätigen, SMS senden und in problematischen WeChat-Gruppen kommunizieren. Einige Rollen geben an, WhatsApp zu nutzen, andere nicht; einige sind bereit, das Gespräch fortzusetzen, andere sagen, sie würden es sorgfältig überlegen und sich später wieder melden.

Im März 2025 veröffentlichten Forscher der Macquarie University einen Artikel mit dem Titel „Bot Wars Evolved“, in dem sie erörtern, wie große Sprachmodelle zur Bekämpfung von Telefonbetrug eingesetzt werden können.

Der Artikel schlägt eine zweischichtige Prompt-Struktur vor. Die erste Schicht dient dazu, den Hintergrund der virtuellen Identität zu erstellen, sodass die künstliche Intelligenz eine ähnliche Persönlichkeit, ein ähnliches Alter und einen ähnlichen Ton erhält. Die zweite Schicht bezieht sich auf den Teil der Gesprächsstrategie, der im ständig wechselnden Kommunikationsprozess das Ziel der Aufgabe beibehält, anstatt einfach mechanisch auf den vorherigen Satz zu antworten.

Aus dem von GSMA veröffentlichten Kooperationsfall mit TPG Telecom geht hervor, dass Apate einmal einen betrügerischen Anruf von bis zu 54 Minuten aufrechterhalten hat. TechCrunch berichtet, dass das Unternehmen etwa 2,5 Millionen KI-Gespräche abgeschlossen hat, deren gesamte Gesprächszeit zusammen 17 Jahre erreichen kann.

Dahinter steckt auch die seit langem im Bereich der Cybersicherheit vorhandene Honeypot-Technologie, also das sogenannte „Honigtopf“-System.

Ein traditioneller Honigtopf ist ein Server oder System, das anscheinend Schwachstellen aufweist, aber streng überwacht wird, um Angreifer zu täuschen. Hacker glauben, sie hätten ein Angriffsziel gefunden, aber alle ihre Handlungen, alle verwendeten Tools und alle durchgeführten Angriffe werden von Sicherheitspersonal aufgezeichnet.

Der Zweck des Honigtopfs ist es nicht, Angreifern tatsächlich die Daten entkommen zu lassen, sondern eine kontrollierte Umgebung zu schaffen, die Angriffsverhalten überwachen kann, um einen nachhaltigen Interaktionseffekt zu erzielen.

Die Zeit der Betrüger zu verschwenden ist nur die am leichtesten verständliche Seite dieser Technologie.

Was Apate tatsächlich erreichen will, ist, dass Betrüger, bevor sie das Geld erbeuten können, selbst ihre Bankkontonummer, die Adresse ihrer Kryptowährungs-Wallet, den Link zu ihrer betrügerischen Website und die Informationen der von ihnen nachgeahmten Identität preisgeben – und diese Informationen dann zu Daten machen, die Banken und Telekommunikationsbetreiber als Anti-Betrugs-Informationen nutzen können.

Sein Wert liegt nicht nur darin, „die Betrüger aufzuhalten“, sondern darin, eine vollständige Kette aufzubauen, die aus Abwehr, Informationsanalyse und der Rückmeldung von Regeln an die Betreiber besteht.

Sogar der Standard, mit dem das Unternehmen seine Produkte bewertet, hat etwas von schwarzem Humor: Joffe erklärt, dass Apate aufzeichnet, wenn Betrüger während des Chats schimpfen – und dies als etwas Positives feiert.

KI mit KI bekämpfen

Hinter Apate verbirgt sich eine Veränderung von Angriff und Abwehr, die durch generative künstliche Intelligenz ausgelöst wurde. Früher waren verschiedene Betrugsmaßnahmen auf menschliche Arbeit angewiesen, heute können diese durch automatisierte Verfahren kostengünstiger durchgeführt werden.

Aber beeilen Sie sich nicht, zu verkünden, dass die Anti-Betrugs-Branche eine Revolution erlebt hat.

Wenn sich KI von einem einfachen Alarmwerkzeug zu einem Agenten entwickelt, der mit der Außenwelt interagieren kann, entstehen weitere Risiken.

Diejenigen, die gegen Betrug vorgehen, haben es nicht mehr nur mit fremden Konten zu tun, die verdächtige Informationen senden. Im gesamten Produktionsprozess können verschiedene Methoden zum Einsatz kommen, die Echtzeit-Gesichtsvertauschung, Nachahmung von Stimmen, Aufrechterhaltung von festgelegten Identitäten und die automatische Verwaltung einer großen Anzahl von Chat-Partnern ermöglichen.

Die unabhängige Online-Medienplattform 404Media hat einmal eine Echtzeit-Gesichtsvertauschungssoftware namens „Haotian AI“ untersucht. Dieses Tool kann das Gesicht des Nutzers auf Videoplattformen wie WhatsApp, Microsoft Teams und Zoom austauschen, sodass die Person auf der anderen Seite des Bildschirms glaubt, mit einer echten Person zu telefonieren.

Die Veränderung von Betrug durch KI ist nicht mehr nur das Problem, „ein anderes Gesicht zu zeigen“.

In der industriellen Kette des Telekommunikationsbetrugs in Südostasien wird KI verwendet, um Opfer auszuwählen, falsche Identitäten aufrechtzuerhalten und Gespräche in großen Mengen zu bearbeiten. Untersuchungen haben Tools wie „Kontian Intelligente Kundengewinnung“ (KT) aufgedeckt, mit denen Bediener mehrere soziale Konten gleichzeitig