Nvidia hat Maßnahmen ergriffen, und die praktische Erprobung von KI-Videoanalyse-Tools zeigt: Sie sind im Allgemeinen sehr schwach, aber immer noch besser als nichts.

Jensen Huang, der im Internet ständig von KI-Videos gefälscht wird, hat sich entschieden, Maßnahmen zu ergreifen.

Kürzlich kündigte NVIDIA die Einführung von Synthetic Video Detector NIM an. Dieses Tool soll Videos Frame für Frame analysieren und anhand der statistischen und im Frequenzbereich verbleibenden Spuren von generativen Modellen herausfinden, welche Inhalte KI-generierte Videos sind, wobei die Genauigkeit bis zu 92 % erreichen kann.

(Quelle: NVIDIA)

Es gibt keine andere Wahl, denn die Schwelle zum Erstellen gefälschter Bilder und Videos wird immer niedriger.

Nehmen wir als Beispiel ein Video, das ich vor einiger Zeit gesehen habe: Der Inhalt ist sehr einfach. Eine Katze hat gerade eine Vase zerbrochen und ist sofort schneller als alle anderen weggelaufen. Der Hund daneben ist sofort erstarrt, wedelt wild mit den Pfoten, um sich zu rechtfertigen, und sein Ausdruck scheint zu sagen: Ich war es nicht, wirklich nicht ich.

(Quelle: Douyin)

Es ist sehr lustig, oder? Es wäre noch besser, wenn es kein KI-Video wäre.

Das Problem ist noch komplizierter: Früher konnte man gefälschte Videos anhand einiger offensichtlicher Bildfehler erkennen, zum Beispiel an nicht passenden Lippenbewegungen oder falschen Fingerzahlen. Heutzutage entwickeln sich Video-Generierungsmodelle rasant weiter, und viele generierte Inhalte weisen keine so offensichtlichen Lücken mehr auf. Kein Wunder, dass die älteren Familienmitglieder jeden Tag auf solche Tricks hereinfallen.

Da normale Menschen nicht wissen, wie man sie unterscheidet, ist es an der Zeit, dass die Erkennungstools zum Einsatz kommen.

NVIDIA schließt sich der Truppe an, die KI-Videos mit KI erkennt

Zuerst eine kurze Einführung: NVIDIA hat im März 2024 die NVIDIA Inference Microservices, kurz NIM, vorgestellt. Im Wesentlichen handelt es sich dabei um ein Bereitstellungstool, das „Modell + Inferenz + API-Schnittstelle + Laufzeitumgebung“ zu einem Paket bündelt. Es ist eine Möglichkeit für Entwickler, schnell auf KI-Dienste zuzugreifen.

Das neu vorgestellte Synthetic Video Detector NIM kann als eine von NVIDIA unter dem NIM-Standard verpackte KI-Videoerkennungsdienstleistung verstanden werden.

Da dieses Tool hauptsächlich für lokale Bereitstellungsszenarien konzipiert ist, muss man derzeit eine Medienprüfungsanfrage bei NVIDIA stellen, um es online zu nutzen. Die lokale Bereitstellung erfordert zudem ein Linux-System und Hardware, die mit der NVENC/NVDEC-Videocodierung und -decodierung kompatibel ist. Für normale Nutzer ist es ziemlich schwierig, es zu verwenden.

(Quelle: NVIDIA)

Auch wenn wir es nicht nutzen können, hindert uns das nicht daran, anhand der aktuellen Informationen und Demonstrationen darüber zu sprechen.

Laut offiziellen Angaben zerlegt SVD NIM nach dem Hochladen des Videos zuerst das H.264-kodierte MP4-Video in Bildframes, gibt diese dann an das aus DINOv2 und DINOv3 bestehende visuelle Modell zur Analyse weiter, bewertet jeden Frame und fasst die Ergebnisse zusammen, um Ihnen zu zeigen, wie stark das gesamte Video KI-generiertem Inhalt ähnelt.

Der Schwerpunkt liegt nicht auf der Beobachtung traditioneller Merkmale wie sechs Finger, Überlappungen von Personen oder plötzlich verschwindenden Wasserbechern.

Laut offiziellen Angaben erkennt SVD NIM die zugrunde liegenden statistischen Merkmale, Frequenzanomalien, die während der Generierungs- und Entrauschungsphase entstehen, sowie Pixelregeln, die von normalen Kameras kaum erfasst werden können. Selbst wenn Nutzer das Video komprimieren und neu kodieren, kann es immer noch eine hohe Erkennungsrate gewährleisten.

(Quelle: NVIDIA)

Anhand der offiziellen Beispiele lässt sich erkennen, dass das Video selbst keine typischen Probleme früher KI-Videos wie verschiedene Bildstörungen oder Inkonsistenzen aufweist, aber SVD NIM hat einen Gesamtwert von bis zu 99 % vergeben.

Natürlich sieht dieses Video auf den ersten Blick schon gefälscht aus... schließlich ist die Kameraführung etwas zu glatt.

(Quelle: NVIDIA)

Meiner Meinung nach ist dieser Ansatz von NVIDIA tatsächlich zuverlässiger als die Suche nach Fehlern im Bild.

Schließlich würde ich, wenn ich den Leuten das folgende Video ohne vorherigen Kontext zeige, davon ausgehen, dass mindestens 80 % der Menschen nicht erkennen würden, dass es vollständig von KI generiert wurde. Die Videogenerierungsfähigkeit von Seedance und Kling ist derzeit so beeindruckend.

(Quelle: bilibili)

Laut NVIDIA haben sie einen internen Testdatensatz mit mehr als 4000 Videos erstellt. Die Erfolgsrate von SVD NIM bei der Erkennung liegt bei erstaunlichen 85,64 %, und die Genauigkeit bei unkomprimierten Videos beträgt sogar bis zu 92 %.

Natürlich darf man die Genauigkeit von 92 % nicht so verstehen, dass jede Prüfung zuverlässig ist.

Obwohl es in der Werbeveröffentlichung nicht erwähnt wird, hat NVIDIA es in der Dokumentation markiert: Eine so hohe Genauigkeit wird durch einen relativ strengen Schwellenwert erreicht, was in der realen Umgebung zu vielen Fehlurteilen führen kann. Daher eignet sich dieses Tool eher für die Vorprüfung von Videoplattformen. Bei verdächtigen Materialien sollte die manuelle Überprüfung fortgesetzt werden.

Darüber hinaus basiert diese Genauigkeit auf Videos im MP4-Format mit H.264-Kodierung. Jede Umkodierung und Komprimierung verringert die Genauigkeit. Man kann nur sagen, dass die Haftungsausschlusserklärung von Jensen Huang sehr professionell ist.

Praxisprüfung zur KI-Gegenmaßnahme: Zhuque funktioniert recht gut, die Anti-Betrugs-Zentrale ist instabil

Derzeit ist das SVD NIM von NVIDIA für normale Nutzer noch ziemlich weit entfernt.

In China gibt es jedoch ähnlich positionierte Erkennungstools, die direkt geöffnet und verwendet werden können. Eines davon ist der Tencent Zhuque KI-Erkennungsassistent, das andere ist die Funktion „KI-Inhaltsidentifizierung“ in der App der Anti-Betrugs-Zentrale. Beide Anwendungen unterstützen die Erkennung von Texten, Bildern und Videos und bieten eine bestimmte Anzahl kostenloser Prüfungen pro Tag.

Um zu sehen, wie zuverlässig KI beim Erkennen von KI ist, habe ich eine gemischte Testgruppe vorbereitet:

Einige Bilder, die direkt von gängigen Modellen generiert wurden, einige mit dem Handy aufgenommene Fotos; ein sorgfältig ausgewähltes KI-Video, kombiniert mit einem echten Video im Vlog-Stil. Ich habe einige Materialien über WeChat gesendet und Screenshots davon gemacht, um zu sehen, wie sie mit sekundären Komprimierungen umgehen.

Erste Runde: Wir testen zuerst KI-Videos.

(Quelle: bilibili)

Ich finde dieses Video sehr gut: Die leicht unscharfe Auflösung, die leicht wackelnde simulierte Kamera und die Bewegungen sowie der Ausdruck der Figur verschmelzen zu einem echten alten Filmbild. Der Ersteller hat eine große Anzahl von Storyboards von Hand gezeichnet, um das Modell zu unterstützen, und hat die Produktionsfähigkeit von Seedance voll ausgeschöpft.

Dann ist Tencent Zhuque als erstes gescheitert.

(Quelle: Leikeji)

Als Vergleich habe ich mir das Konto von Tencent Zhuque von einem Freund geliehen, der die Medienprüfungsanfrage bestanden hat. Man sieht, dass SVD NIM einen Gesamtwert von bis zu 93 % vergeben hat, was bedeutet, dass das Video mit hoher Wahrscheinlichkeit KI-synthetisiert ist. Die verdächtigen Punkte der Frame-für-Frame-Prüfung sind auch im Koordinatensystem markiert.

Die Prüfgeschwindigkeit ist jedoch nicht sehr schnell: Ein 13 Sekunden langes Video wurde in zwei Minuten geprüft.

(Quelle: Leikeji)

Noch beeindruckender ist die Inhaltserkennung der Anti-Betrugs-Zentrale: Ich habe eine halbe Stunde lang versucht, das Video hochzuladen, bin aber gescheitert und habe es schließlich aufgegeben.

Zweite Runde: Wir testen echte Videos.

(Quelle: Leikeji)

Natürlich darf es kein einfaches echtes Video sein. Ich habe ein Vlog-Video ausgewählt, das viele Videogenerierungsmodelle gerne nachahmen. Der Ersteller hat eine gute Kamera verwendet, die Übergänge zwischen den Aufnahmen sind glatt und natürlich, und das Licht auf der Straße hat eine gute Textur. Es ist ein Video, bei dem man auf den ersten Blick nicht unterscheiden kann, ob es echt oder gefälscht ist.

Raten Sie mal, Tencent Zhuque ist wieder gescheitert.

(Quelle: Leikeji)

NVIDIA ist relativ viel besser: Obwohl es auch einen Gesamtwert von 34 % vergeben hat, ist dies nur ein Referenzwert, was bedeutet, dass das Modell nicht viele Beweise für synthetisierte Inhalte gefunden hat.

(Quelle: Leikeji)

Bei der Anti-Betrugs-Zentrale ist es mir immer noch nicht gelungen, das Video hochzuladen. Wenn ältere Menschen diese Funktion wirklich nutzen wollen,