Eine KI, die die Gesichtserkennung umgehen kann, hat bereits dein Bankkonto im Visier.
Das ist unglaublich! Die Praxis, mit künstlicher Intelligenz (KI) Gesichter zu tauschen und so die Gesichtserkennungssysteme zu hintergehen, wird immer ungezügelter.
Vor kurzem ist in Nanjing ein Betrugsfall passiert.
Der Verdächtige hat zunächst mehr als 1,95 Millionen Datensätze wie Namen und Fotos anderer Personen gesammelt. Dann hat er mit einer KI-Gesichtstauschsoftware das Gesichtserkennungssystem einer Finanzzahlungsplattform umgangen und am Ende 15.000 Yuan erbeutet.
Mit mehr als 1,95 Millionen Datensätzen an Privatsphäreinformationen hat er nur 15.000 Yuan erbeutet. Scheinbar hat dieser Typ noch ein gewisses Gewissen.
Aber das Wichtigste ist, dass sein Versuch, das Gesichtserkennungssystem zu umgehen, tatsächlich erfolgreich war.
Jungs, lasst euch nicht in Sicherheit bringen, denn so etwas Peinliches kann jederzeit passieren.
Vor ungefähr zwei Monaten hat der Blogger @Yuanfang Qingmu geschrieben, dass ein kleiner Account mit 600.000 Followern plötzlich massenhaft Betrugsnachrichten verschickt hat. Als er nachforschte, stellte er fest, dass nicht nur das Passwort geändert wurde, sondern auch der Firmeninhaber wechselte.
Kurz darauf hat @Biaojiu Shi Yangji Dahu auch festgestellt, dass sein Account, in dem er normalerweise über US-Aktien schrieb, Werbung für eine Aktien-Betrugsmasche an seine Follower geschickt hat.
Später hatten auch @Qin Xiaoming und @Mao Bidao ähnliche Erfahrungen: Der Firmeninhaber wechselte, der Account wurde gehackt und die Follower waren fast betrogen.
Deshalb, wenn ihr plötzlich eine Nachricht bekommt, die euch auf scheinbar sichere Aktien tippt, glaubt es nicht. Wenn es wirklich so einen Informationsvorsprung gäbe, würde jeder von euch einen Goldbarren haben. (Auch das nicht)
Bei diesem Massen-Hack von Finanzbloggern hat Shichao die Erklärungen der Betroffenen genau durchgesehen. Fast alle erwähnten, dass die Änderung des Firmeninhabers mit dem Gesichtserkennungssystem zusammenhängt.
Heute wird euer Geld gestohlen, morgen wird der Firmeninhaber gewechselt. Wer weiß, ob sie morgen nicht auch mein Guthaben auf der Pensionskasse angreifen werden.
Shichao hat mit einem Experten für Netzwerksicherheit gesprochen und dann erfahren, dass die Gesichtserkennungstechnologie nicht so zuverlässig ist, wie wir denken.
Manche Gesichtserkennungssysteme haben so grobe Algorithmen, dass man sie ohne KI leicht umgehen kann.
Das Prinzip eines Gesichtserkennungssystems ist einfach. Zuerst sucht die Kamera nach deinem Gesicht, dann analysiert sie die Details deiner Gesichtszüge, übersetzt dein Gesicht in Daten, die der Computer verstehen kann, und vergleicht diese Daten dann mit deinen persönlichen Informationen.
Bei diesem Prozess gibt es zwei wichtige Punkte: Woher kommen die Daten und wie verarbeitet der Algorithmus diese Daten?
Woher kommen die Daten? Von der Kamera.
Beispielsweise verwenden die meisten Haushalts- und Firmen-Abwesenheitskontrollsysteme die 2D-Gesichtserkennungstechnologie, was bedeutet, dass es sich um eine flache und statische Erkennung handelt.
Der Vorteil ist, dass es billig ist, aber die Sicherheit ist fraglich. Ein Foto oder ein Video in hoher Auflösung kann es möglicherweise umgehen.
Im Vergleich dazu ist die 3D-Gesichtserkennungstechnologie sicherer als die 2D-Technologie.
Einige Finanz- und Verwaltungsdienste verwenden die 3D-Gesichtserkennungstechnologie und addieren sogar mehrere Modi wie 2D, 3D und Infrarot.
Aber was passiert, wenn das Gesicht von KI perfektioniert wurde?
Der Netzwerksicherheitsexperte Aoke hat Shichao erzählt, dass schon um 2017 Menschen mit GAN (Generative Adversarial Network) gegen Gesichtserkennungssysteme vorgegangen sind, und seitdem hat es nicht aufgehört.
Generative KI hat die Betrüger noch ungezügelter gemacht. In 10 Minuten wurden 4,3 Millionen Yuan erbeutet, und es wurde fast 200 Millionen Yuan im Namen des Firmen-CFO betrogen. Zusammen mit den oben genannten Fällen ist es jetzt relativ üblich, dass gefälschte KI-Gesichtstauschvideos und Masken die Kamera täuschen.
Selbst wenn man einen Lebendigkeitstest mit Kopfschütteln und Mundöffnen hinzufügt, besteht immer noch die Möglichkeit, dass das KI-Gesichtstauschvideo diesen umgeht.
Shichao denkt, dass das mit dem Prinzip des Systems zusammenhängt.
Laut Aoke kann das System nicht nur beim Sammeln von Gesichtsdaten Probleme haben, sondern auch bei der Datenverarbeitung, -nutzung und -speicherung.
Aoke hat Shichao das Beispiel mit Melamin in Milch erzählt. Die Maschine misst den Proteingehalt in Milch, indem sie den Stickstoffgehalt misst. Melamin hat einen hohen Stickstoffgehalt und ist billig. Die Maschine kümmert sich nicht darum, ob es für Menschen giftig ist.
Das Gleiche gilt für die Gesichtserkennung. Der Algorithmus erkennt nur messbare Parameter. Du musst nur geschickt bei diesen Parametern betrügen.
Ein skurriles Beispiel: Einige Jahre zurück hat die Carnegie Mellon University ein Experiment durchgeführt. Wenn man eine Brille mit speziellen Mustern trägt, wird Person A in über 80 % der Fälle als Person B erkannt, weil das Muster speziell für diese Schwachstelle entwickelt wurde.
Ein Forscher hat dem System einen QR-Code mit einem Angriffsbefehl gezeigt. Das System hat die Daten wie geplant verarbeitet, obwohl es kein Gesicht war, und schließlich wurde eine Übereinstimmung gefunden.
Das ist so, als würde sich jemand mit KI-Gesichtstausch als Bewohner vormachen und den Wachmann täuschen, während der "QR-Code" oder die "Brille mit Mustern" heimlich in die Sicherheitszentrale schleicht und an den Überwachungskameras herumwerkelt.
Und die Qualität der Sicherheitskräfte ist unterschiedlich.
Vor zwei Jahren hat die Hongkonger Universität einen Studien durchgeführt. Unter 18.000 Apps haben 373 ein Gesichtserkennungsmodul mit Sicherheitslücken verwendet. Fast 40 % dieser 373 Apps sind Finanz-Apps.
Was soll man auch sagen, wenn jemand die Bewohnerinformationen im Hintergrund ändern kann.
Zusammenfassend lässt sich sagen: Die Gesichtserkennung ist keine 100-prozentig sichere Technologie.
Um die Gesichtserkennungstechnologie herum hat sich sogar eine unterirdische Branche entwickelt.
Dieses Jahr haben einige gesperrte Taxifahrer eine App namens "virtuelle Kamera" verwendet, um das Gesichtserkennungssystem der Taxifahrerplattform zu umgehen. Damals haben einige Medien berichtet, dass es bei einigen sozialen und E-Commerce-Plattformen viele Dienste gibt, die behaupten, das Gesichtserkennungssystem umgehen zu können.
Laut einem Bericht von Shell Finance sind einige Schwarzmarktler sogar so dreist, dass sie offen sagen, welche Verwaltungsplattformen sie umgehen können.
Es ist nicht möglich, sich nicht Sorgen zu machen. Immer öfter muss man sein Gesicht scannen, und man kann das Gesicht nicht wie ein Passwort ändern. Die einzige Möglichkeit wäre, wieder in den Mutterleib zurückzukehren.
Glücklicherweise hat der Staat in diesem Jahr gehandelt und versucht, die missbräuchliche Nutzung der Gesichtserkennungstechnologie einzudämmen.
Natürlich sind die Gesichtserkennungssysteme und die Ingenieure bei vielen Zahlungs- und Finanzdienstleistungen nicht untätig.
Beispielsweise wird bei der Eingabe eine Kreuzprüfung durchgeführt. Das 3D-Strukturlicht modelliert das Gesicht, und die Infrarotkamera prüft, ob es die Temperatur eines lebendigen Menschen gibt. Diese Methode kann zwar die Angriffe nicht vollständig verhindern, aber zumindest erhöht sie die Kosten für die Fälschung.
Es gibt auch die Möglichkeit, mit Magie gegen Magie vorzugehen. Beispielsweise hat Ant Financial Services Group im vergangenen Jahr ZOLOZ Deeper entwickelt, um gegen KI-Gesichtstausch vorzugehen. Auch ausländische Unternehmen wie RealAI und Reality Defender haben Technologien zur Erkennung von Tiefenfälschungen.
Insgesamt gibt es seit Jahren einen ständigen Kampf zwischen Angriff und Verteidigung bei der Gesichtserkennung. Die Schwarzmarktbranche ist wie die Kakerlaken, die immer wieder in dunkle Ecken kriechen und sich dort vermehren.
Wir können uns nicht heraushalten, aber wir sollten uns bewusst sein, und unser Gesicht nicht einfach preisgeben.
Quellen der Bilder und Informationen:
Einige Inhalte wurden von den Interviewten bereitgestellt.
Die WeChat- und Xiaohongshu-Accounts vieler Finanzblogger.
Shell Finance: "560 Yuan für die Überwindung der Gesichtserkennung! Finanzblogger werden von neuen Firmeninhabern ersetzt - Aufklärung über die Schwarzmarktbranche der 'Überwindung der Gesichtserkennung'."
Einige Bilder stammen aus dem Internet.