Ein künstlicher Intelligenz-Vortrag gefälscht von Huang Renxun hat 100.000 Ausländer getäuscht. Es wurde als Live-Stream der GTC ausgegeben und erreichte achtmal so viele Zuschauer.

Tieffake hat sich überall eingeschlichen.

Nach Informationen von Zhidongxi vom 30. Oktober berichtete gestern der leitende Herausgeber von CRN, Dylan Martin, in der sozialen Medienplattform X im Ausland, dass ein Live-Stream einer Rede von Jensen Huang, Gründer und CEO von NVIDIA, der mit Tieffake-Technologie auf YouTube erstellt wurde, einmal 96.000 Aufrufe erreichte, was mehr als siebenmal so viele wie die 12.000 Aufrufe des echten Live-Streams war.

Außerdem war dieser gefälschte Live-Stream, der vom Kanal "NVIDIA Live" gestreamt wurde, bei der Suche nach der Rede "Nvidia gtc dc" auf YouTube sogar an erster Stelle in den Suchergebnissen.

Etwa 40 Minuten nach Martins erster Veröffentlichung zur Entdeckung des Live-Streams wurde der illegale Live-Stream von YouTube entfernt, aber Martin veröffentlichte die von Otter.ai transkribierte Textversion der Rede des "Tieffake-Jensen Huang".

Dieser künstliche Virtueller Mensch behauptete, dass es vor dem Themenvortrag ein "aufregendes Überraschungselement" gebe: eine Kryptowährungsförderungskampagne, die "direkt mit NVIDIA's Mission zur Beschleunigung des menschlichen Fortschritts zusammenhängt".

Die gefälschten Inhalte beinhalteten auch, dass NVIDIA-Hardware komplexe Berechnungen beim Kryptomining verarbeiten, Ethereum-Smart Contracts optimieren und Solana-Transaktionen vorantreiben kann. Der gefälschte Jensen Huang bat dann die Zuschauer, den auf dem Bildschirm angezeigten QR-Code zu scannen, um sie zu verleiten, an ein sogenanntes "Kryptowährungsverteilungsprogramm von NVIDIA" zu überweisen.

Das Fälschen von öffentlichen Persönlichkeiten mit generativer KI ist inzwischen außerordentlich einfach geworden, und die Ergebnisse sind oft erschreckend realistisch. Martin sagte, dass die Stimme des gefälschten Jensen Huang zwar unnatürlich klang, aber es nicht schwer vorstellbar sei, dass einige Zuschauer die Behauptung glauben würden, dass NVIDIA ein Kryptowährungsverteilungssystem eingeführt habe.

Fazit: Die Tieffake-Technologie muss unbedingt eingeschränkt werden

Dies ist nicht das erste Mal, dass jemand über YouTube Live-Stream gefälschte bekannte Persönlichkeiten einsetzt, um Kryptowährungsbetrügereien zu promoten.

Im Jahr 2025 gab es im Internet bereits eine von KI generierte Stimme von Elon Musk, die die Zuschauer anwies, Bitcoin, Ethereum oder Dogecoin auf einer bestimmten Website einzuzahlen, um eine doppelte Rückzahlung zu erhalten. 2023, als der Kanal Linus Tech Tips gehackt wurde, war der gefälschte Musk auch in mehreren relevanten Kanälen aufgetaucht.

Außer der Förderung von Kryptowährungen sind auch "Gesichtsveränderungen von Prominenten" in Pornofilmen ein schwer betroffenes Gebiet der Tieffake-Technologie. Früher berichteten Medien auch, dass Prominentinnen wie Scarlett Johansson, die Darstellerin der "Schwarzen Witwe" in Hollywood, und die bekannte US-Sängerin Taylor Swift in pornografischen Videos mit ihrem Gesicht ersetzt wurden und darunter gelitten haben.

Die ständige Wiederholung solcher Ereignisse unterstreicht die Dringlichkeit der Regulierung der Tieffake-Technologie. Weltweit müssen alle Parteien umgehend umfassende Gesetze und Vorschriften einführen, um die Grenzen der Technologienutzung zu klaren.

Dieser Artikel stammt aus dem WeChat-Account "Zhidongxi" (ID: zhidxcom), Autor: Wang Han. Veröffentlicht von 36Kr mit Genehmigung.