In den nächsten 70% meines Lebens werde ich wahrscheinlich immer wieder fragen: Ist das von KI gemacht?

Die Fälschung durch KI muss endlich reguliert werden.

Am Morgen des 26. August ereignete sich gerade ein Tragischer Erdrutsch am Grenzübergang Jilong, und am Abend tauchten bereits von KI erstellte gefälschte Bilder auf.

Das Bild mit hoher Reichweite auf Weibo hat bereits mehr als 8000 Likes, und bis heute gibt es noch ahnungslose Leser, die über das gefälschte Bild staunen.

Der Einzige unten, der Beweise zur Widerlegung der Gerüchte vorgelegt hat, hat einen Screenshot der Unterhaltung mit Doubao verwendet...

Und nicht nur normale Menschen, sondern auch professionelle Medien können darauf hereinfallen.

Anfang März dieses Jahres, während des Konflikts zwischen den USA und dem Iran, kam es zu einem klassischen Vorfall der Kontamination durch KI-Fake-Bilder.

Von dem ursprünglichen Anbieter SalamPix ausgehend erhielten die von KI erstellten gefälschten Aufnahmen zunächst die Glaubwürdigkeit einer regulären französischen Bildagentur und gelangten dann in alle großen Mainstream-Medien Europas.

Die alteingesessene deutsche Zeitschrift Der Spiegel, die größte niederländische Nachrichtenagentur ANP und viele andere wurden darin verwickelt, gaben dringend Erklärungen heraus und entfernten die fragwürdigen Bilder.

Wenn das so weitergeht, werden wir bei Live-Berichten wahrscheinlich nicht zuerst auf die Nachricht selbst achten, sondern sofort anzweifeln, ob das Ding überhaupt von KI erstellt wurde.

Gibt es denn überhaupt eine Möglichkeit, das zu regulieren?

Dafür haben wir einige gängige Erkennungsmethoden auf dem Markt getestet und auch Forscher vom Zhuque-Labor konsultiert. Das Ergebnis kann nur so beschrieben werden: Die Klugheit auf der einen Seite wird von der Klugheit auf der anderen Seite übertroffen, es gibt derzeit wirklich keine perfekte Lösung...

Zum Beispiel die am häufigsten verwendete offizielle Methode ist das Voranstellen von Wasserzeichen, also das Einprägen der Wörter „KI-erstellt“ in die generierten Bilder und Videos.

Diese Sache ist auffällig und intuitiv, aber sie ist zu leicht zu entfernen, sodass alle scherzen, dass die einzige Funktion von Photoshop heute darin besteht, diese Wörter wegzuretuschieren.

Im Grunde ist das also nur eine Erklärung, die das Problem der Fälschungserkennung nicht löst.

Daher treten die etwas unauffälligeren unsichtbaren Wasserzeichen auf den Plan.

Zum Beispiel das von vielen großen Unternehmen standardmäßig verwendete C2PA verpackt beim Generieren eines Bildes Informationen wie das Modell und das Generierungswerkzeug in das Bild hinein.

Im Idealfall kann C2PA sogar den Bearbeitungsverlauf des Bildes aufzeichnen.

Klingt das ein bisschen wie die Metadaten von Handyfotos, die den geografischen Standort des Fotos und die Blendenöffnung der Kamera aufzeichnen können?

Genau, C2PA ist ähnlich wie Metadaten, genauso vielversprechend und genauso anfällig.

Wenn man zum Beispiel einen Screenshot macht und ihn zuschneidet oder ihn auf WeChat teilt und dabei komprimiert, ist das Ding sofort verschwunden.

Nehmen wir dieses von GPT Image 2 generierte Bild: Kaum haben wir es heruntergeladen und in den offiziellen Prüfer von OpenAI hochgeladen, erkennt es es nicht mehr – das behandelt nur die Symptome, nicht die Ursache.

Dann tritt unser „Wohltäter“ Google auf den Plan und präsentiert das beeindruckende SynthID unsichtbare Wasserzeichen.

Diese Sache ist eher etwas für das KI-Zeitalter: Sie hängt das Etikett nicht außerhalb der Datei an, sondern mischt beim Generieren ein maschinenlesbares Signal in Bilder, Videos, Audiodateien und sogar Texte ein.

In ihren technischen Papieren erklären sie, dass Gemini beim Generieren von Tokens geringfügig von diesem Werkzeug beeinflusst wird, sodass der endgültige Inhalt im Wesentlichen unverändert bleibt, aber in der Statistik der Spuren bestimmte Merkmale und Muster aufweist.

Einfach gesagt: Mit bloßem Auge ist kein Unterschied zu erkennen, aber ein spezialisierter Detektor kann es identifizieren.

Darüber hinaus ist SynthID widerstandsfähiger als C2PA: Gewöhnliches Zuschneiden, Filter und Kompression können es kaum zerstören.

Angesichts der guten Wirkung hat auch das benachbarte OpenAI mitgemacht: Zum Beispiel das täuschend echte GPT Image 2 unterstützt SynthID.

Wir haben die gleiche Methode angewendet und es ausprobiert – es hat tatsächlich etwas zu bieten: Selbst nach dem Zuschneiden, Komprimieren oder sogar Hinzufügen von Filtern bei den meisten Bildern kann das Wasserzeichen noch erkannt werden.

Vor ein paar Tagen hat Anthropic aufgrund der EU-Vorschriften auch das SynthID-Wasserzeichen zu den Texten von Claude hinzugefügt. Die Gruppe wird immer größer – also wenn es vollständig verbreitet ist, ist die Sache doch gelöst, oder?

Nicht ganz so einfach.

Obwohl es sich um das gleiche SynthID handelt, sind die Detektoren nicht kompatibel: Ein von Gemini erstelltes Bild wird im Prüfer von OpenAI nicht erkannt, und umgekehrt genauso.

Derzeit gibt es noch keinen einheitlichen Identitätsdetektor, jedes Unternehmen kümmert sich nur um seine eigenen Produkte.

Und noch problematischer: Damit das Wasserzeichen nützlich ist, muss es erkennbar sein. Sobald das Erkennungsverfahren öffentlich wird, tauchen sofort Methoden zum Löschen, Fälschen und Gegensteuern auf.

Wie bei Anthropic, das nicht den besten Ruf hat: Kaum war das Textwasserzeichen ein paar Tage veröffentlicht, tauchte auf GitHub ein Gegenprojekt zum Entfernen des Wasserzeichens auf, das in weniger als einem Monat 20000 Sterne erhielt.

Sogar Google selbst gibt zu, dass es absolut kein perfektes, sicheres Wasserzeichen gibt. Ihr Ziel ist realistisch: Die Kosten für Angriffe und Fälschungen zu erhöhen.

Daher haben Drittanbieter-Detektoren derzeit einen großen Markt: Sie sind nicht auf Wasserzeichen angewiesen, sondern können anhand des Inhalts ableiten, ob er von KI erstellt wurde.

Aber leider haben wir nach einer Reihe von Tests festgestellt, dass die Qualität dieser Detektoren sehr unterschiedlich ist, einige sind sogar völlig unbrauchbar.

Hier lassen wir ChatGPT einen Artikel über „Pseudohistorie“ erstellen und legen ihn verschiedenen KI-Detektoren vor.

Drei von vier ausländischen Anbietern können keine KI-Spuren erkennen. Das einzige zuverlässige GPTZero hat sogar 2000 chinesische Zeichen als 49 Wörter erkannt – anscheinend versteht es kein Chinesisch...

Reihenfolge: Originality.ai, Winston, AISEO, GPTZero

Die Situation in China ist nicht viel besser: Wanfang zeigt immer noch 0 % an, und bei Weipu wurde selbst bei einem auf 20000 Wörter erweiterten Text nur 0,42 % erkannt.