Das ist total befriedigend! Dieses "absurde" Unternehmen lässt KI sich als ältere Menschen ausgeben und sich aktiv von Betrügern täuschen wollen, sodass die Betrüger völlig ratlos geworden sind.

2,5 Millionen Gespräche haben die Betrüger um ganze 17 Jahre ihrer „Jugend“ gebracht.

Das australische Startup Apate.ai hat kürzlich ein etwas „unmoralisches“ Geschäft zu Erfolg gebracht – es schickt eine Gruppe von KI aus, die sich als Opfer ausgibt und ausschließlich mit Betrügern chattet.

Es ist zwar etwas unmoralisch, aber auf eine höchst befriedigende Weise.

Es nimmt jeden Betrugsanruf entgegen und antwortet auf jede verdächtige Nachricht. Während die Gegenseite eifrig erklärt, wie man Geld überweist, sammelt es die Empfangskonten. Die Betrüger glauben, endlich einen geduldigen Kunden getroffen zu haben, und am Ende landen ihre eigenen Bankkonten, Kryptowährungs-Wallets und gefälschten Websites möglicherweise zuerst im Anti-Betrugs-System.

Bildquelle: Apate

Dieses „Betrug mit Betrug bekämpfen“-Geschäft hat bereits eine Seed-Finanzierung von 8,15 Millionen US-Dollar erhalten. Die Commonwealth Bank of Australia und TPG Telecom arbeiten mit dem Unternehmen zusammen, und der Telekommunikationsanalyst Mobileum plant, diese Fähigkeit Betreibern in mehr Ländern zur Verfügung zu stellen.

Nach Angaben des Unternehmens, die gegenüber TechCrunch offengelegt wurden, hat seine KI bereits etwa 2,5 Millionen Gespräche geführt, was den Betrügern insgesamt eine Zeit von 17 Jahren gekostet hat.

Die Internetnutzer sind erfreut, und auch die Banken haben tatsächlich Grund, daran interessiert zu sein. Der Grund, warum die Banken bereit sind, Geld auszugeben, liegt in diesen scheinbar endlosen Plaudereien.

Die List der Betrüger weiterführen

Betrüger brauchen normalerweise etwas Geduld.

Um einen Fremden davon zu überzeugen, ihre Identität zu glauben, dann den Anweisungen zu folgen, den Computer zu bedienen, eine Website zu öffnen und schließlich Geld zu überweisen, braucht es zwangsläufig Erklärungen, Drängen und wiederholte Bestätigungen.

Apate setzt genau in diesem Prozess an.

Nach einem Bericht des Guardian aus dem Jahr 2024 fragt ein älterer Roboter namens Malcolm mit britischem Akzent den Betrüger zurück: „Was für ein Geschäft meinen Sie damit?“

Solche Fragen eignen sich hervorragend, um die Betrüger zum Weitersprechen zu bewegen. Schließlich bedeutet Unverständnis nicht, dass der Betrug nicht gelingt. Solange das Telefon nicht aufgelegt wird und die Gegenseite noch zuhört, hat der Betrüger Grund, noch etwas geduldiger zu sein und noch einmal zu erklären. Es wäre dumm, einen kooperationsbereiten „potenziellen Kunden“ leicht aufzugeben, den man mit Mühe gefunden hat.

Die Roboter von Apate wollen genau diese Hoffnung aufrechterhalten.

Diese virtuellen Figuren haben unterschiedliche Alter, Geschlechter, Töne und kulturelle Hintergründe und verwenden auch australischen Slang und Humor. Sie kommunizieren mit den Betrügern per Sprache und Text und bemühen sich, die Gegenseite davon zu überzeugen, dass sie mit einer echten Person sprechen.

Mit dem Fortschreiten der Gesprächsführung müssen die Betrüger früher oder später konkrete Dinge preisgeben. Wenn sie eine Überweisung verlangen, müssen sie das Empfangsziel angeben; wenn sie verlangen, sich auf einer Website anzumelden, müssen sie einen Link senden; wenn sie sich als Bank oder Regierungsbehörde ausgeben, geben sie auch die verwendete Identität und ihre Maschen preis.

Das Unternehmen hat zwei Kanäle, um mit Betrügern in Kontakt zu treten: Die Betreiber leiten die erkannten Hochrisiko-Anrufe direkt weiter oder richten spezielle „Honigtopf“-Nummern im Kommunikationsnetz ein, die von Betrügern aktiv angerufen und zum Senden von Nachrichten verwendet werden. Mit dem Fortschreiten der Gesprächsführung werden die Betrüger zwangsläufig Empfangskonten, Wallet-Adressen oder bösartige Websites angeben, um die Überweisung oder Anmeldung zu fördern.

Apate extrahiert diese Informationen aus den Gesprächen und liefert sie über seine Produkte Apate Voice, Apate Text und Apate Insights an institutionelle Kunden.

Ein von GSMA veröffentlichter Kooperationsfall mit TPG zeigt, dass während des Pilotprojekts über 280.000 Betrugsanrufe weitergeleitet wurden, die den Betrügern insgesamt mehr als 100 Tage gekostet haben. Die längste einzelne Gesprächsdauer betrug 54 Minuten, und die Genauigkeit der erkannten Betrugsverkehrsdaten liegt bei 98 %.

Die Betrüger glauben, dass sie sich Schritt für Schritt der Brieftasche des Opfers nähern, während die Roboter nach und nach das Gesamtbild der Betrugsaktivitäten zusammenstellen.

KI gegen Betrug an Amazon-Kontosicherheit und Debitkarten

Betrüger liefern Material, Banken kaufen Erkenntnisse

Dieses Geschäft hat eine sehr besondere Regelung: Die Personen, die mit dem Produkt interagieren, zahlen normalerweise nicht; diejenigen, die tatsächlich zahlen, interessieren sich dafür, was nach der Interaktion übrig bleibt.

Nach Angaben des Investors Investible liefert Apate über Softwareplattformen und Echtzeit-Warnungen Betrugsinformationen an Finanzinstitute, Telekommunikationsunternehmen und Regierungsbehörden und hat bereits kommerzielle Kooperationen mit Einrichtungen wie der Commonwealth Bank und TPG Telecom aufgebaut. Normale Nutzer müssen keine App herunterladen, um „die Betrüger zu ärgern“, und Apate hat auch keine mobile App – seine Technologie wird hauptsächlich in die Systeme und Kommunikationsnetze von Institutionen integriert.

Der Kerngrund, warum Banken bereit sind, das Produkt zu kaufen, liegt im Zeitunterschied. Wenn man erst nach Abschluss der Überweisung durch den Kunden nach dem Geld sucht, ist man oft in einer passiven Lage. Wenn die Roboter bereits in früheren Gesprächen die entsprechenden Konten oder Websites erhalten haben, haben die Banken eine zusätzliche Chance zur vorzeitigen Überprüfung und Intervention.

Die Commonwealth Bank bestätigt, dass die von Apate erhaltenen Informationen nahezu in Echtzeit in ihr Anti-Betrugs-Kontrollsystem eingespeist werden, um neue Trends zu erkennen, die Erkennung zu verbessern und die Zusammenarbeit zwischen verschiedenen Einrichtungen zu unterstützen.

Auch regulatorischer Druck beeinflusst die Kaufbereitschaft der Institutionen. In Großbritannien gilt seit Oktober 2024 eine verbindliche Entschädigungsregelung für förderfähige autorisierte Push-Zahlungsbetrügereien. Die meisten Verpflichtungen des australischen Anti-Betrugs-Rahmenwerks gelten ab dem 31. März 2027 für Banken, Telekommunikationsunternehmen und digitale Plattformen. Wer die Betrugsverluste tragen muss, hat mehr Grund, in Präventionsmaßnahmen zu investieren.

Die Gesamtausgaben der Commonwealth Bank im Geschäftsjahr 2025 zur Verhütung von Betrug, Finanzkriminalität und Cyberbedrohungen überstiegen 900 Millionen Australische Dollar. Die Bank gab zudem bekannt, dass die Betrugsverluste ihrer Kunden in der zweiten Hälfte des Geschäftsjahres 2025 um 76 % gesunken sind, verglichen mit dem Höchstwert in der ersten Hälfte des Geschäftsjahres 2023 – da die Bank jedoch in diesem Zeitraum mehrere Schutzmaßnahmen umgesetzt hat, kann dieser Rückgang nicht allein auf Apate zurückgeführt werden.

Die 44 Minuten eines Vaters, die schließlich zu einem Produkt gemacht wurden

Der Ursprung von Apate liegt in einem Familienpicknick, das durch einen Anruf unterbrochen wurde.

Nach der Selbstaussage des Gründers und Geschäftsführers Dali Kaafar erhielt er vor einigen Jahren einen unbekannten Anruf, als er mit seiner Familie zusammen war. Die Gegenseite gab sich als ein bekanntes Technologieunternehmen aus und begann mit dem Betrug.

Kaafar beschloss, mitzuspielen, um seinen Kindern Spaß zu machen.

Er spielte absichtlich mit dem Betrüger herum und hielt das Gespräch 44 Minuten lang aufrecht. Die Kinder lachten sehr, und ihm wurde klar, dass diese 44 Minuten zumindest verhindert haben, dass der Betrüger andere Personen betrogen hat.

Dann fiel ihm noch etwas anderes ein: Seine eigenen 44 Minuten waren auch verschwendet. Einmal mit einem Betrüger zu scherzen, kann als Unterhaltung gelten. Wenn man das jeden Tag tut, ist es schwer zu sagen, wer eigentlich wen seine Zeit stiehlt.

Daher kam ihm der Gedanke: Könnten nicht viele unermüdliche Roboter diese Aufgabe übernehmen und gleichzeitig nützliche Informationen aus den Gesprächen sammeln?

Dieser Gedanke wurde später Teil eines Forschungsprojekts an der Macquarie University. Nach einer Vorstellung der Universität aus dem Jahr 2024 analysierte das Team die Social-Engineering-Methoden bei Betrügereien und trainierte die Roboter mit Betrugsanrufen, E-Mail-Texten und Chat-Protokollen von sozialen Plattformen, damit sie ihre virtuelle Identität aufrechterhalten und glaubwürdige Antworten geben können.

Das System erhielt den Namen Apate, nach der Göttin der Täuschung in der griechischen Mythologie.

Dass ein Anti-Betrugs-Unternehmen die „Göttin der Täuschung“ als Markennamen wählt, passt perfekt zu seiner Arbeitsweise.

Im Jahr 2024 wurde Apate aus der Universität ausgegliedert. Im August desselben Jahres kündigten die Universität, das Unternehmen und die Commonwealth Bank eine gemeinsame Pilotkooperation an. Im Jahr 2025 erhielt das Unternehmen eine weitere Finanzierungsrunde von 2,5 Millionen Australischen Dollar, angeführt von OIF Ventures und mit Beteiligung von Investible.

Die im September dieses Jahres angekündigte 8,15 Millionen US-Dollar schwere Seed-Runde wurde von Lobby Capital angeführt. Das Unternehmen gibt an, die Produktentwicklung fortzusetzen, das internationale Geschäft auszuweiten, ein Büro in London zu gründen und seine Präsenz auf dem US-Markt zu stärken.

Gleichzeitig kombiniert Mobileum seine eigene Netzwerkanalyseplattform mit der konversationellen KI von Apate. Nach einem Bericht von ARN wird die entsprechende Fähigkeit unter dem Namen „Scam Intelligent Defense“ Kommunikationsdienstleistern angeboten.

Für ein Startup ist das ein realistischer Weg zur Markterweiterung: Über die Kanäle und Systeme bestehender Lieferanten kann es mehr Betreiber erreichen.

In den derzeit veröffentlichten Materialien hat Apate noch keine Angaben zu Einnahmen, Vertragspreisen oder Bruttomargen gemacht. Die Geschichte reicht bereits aus, um Investoren zum Einstieg zu bewegen, aber die betrieblichen Erfolge müssen noch durch weitere Zahlen belegt werden.

Am Ende arbeiten beide Seiten möglicherweise mit KI „Überstunden“

Auf X haben einige Internetnutzer dem Unternehmen einen Spitznamen gegeben: „Strenger Vater aus Nord-Myanmar“.

Andere denken daran, dass auch Betrüger modellgesteuerte Massen-KI einsetzen könnten, was sich schließlich zu einem „Stellvertreterkrieg“ entwickelt.

Für Apate wird die Bedeutung des Informationsgeschäfts weiter steigen. Solange Betrugsaktivitäten nach wie vor Empfangskonten, Wallets, Websites und Verbreitungskanäle benötigen, bleibt die Erkennung dieser Hinweise wertvoll. Das Unternehmen muss beweisen, dass die von ihm gesammelten Informationen neu genug, genau genug sind und den Kunden helfen können, Maßnahmen zu ergreifen.

Kaafar sprach bereits 2023 über die Möglichkeit, dass beide Seiten Roboter sind. Er sagte, wenn die Betrugsroboter am Ende alle mit Anti-Betrugs-Robotern sprechen und echte Menschen dadurch vor Verlusten geschützt werden, sei er bereit, dies als einen Sieg zu betrachten.

Dieser Artikel stammt aus dem WeChat-Offiziellen Konto „WallstreetCN“, Autor: ZHANG Yaqi, veröffentlicht mit Genehmigung von 36Kr.