Kann die Zwangsmarkierung von AI in DeepSeek, WeChat und Douyin Betrug verhindern?
In den letzten Jahren ist eine große Menge künstlich intelligenter (KI)-generierter Inhalte in unseren Alltag geflossen. Die KI war jedoch oft im Hintergrund unsichtbar. Dieser Zustand des "unsichtbaren Bestehens" endet ab dem 1. September.
Ob es Videos auf Douyin, Populärwissenschaftliche Animationen auf Bilibili, Live-Einkaufsstreams auf Kuaishou oder sogar Texte in Nachrichtenpushs sind, es muss immer angegeben werden, ob diese Inhalte von KI generiert wurden. Wenn KI-generierte Inhalte nicht gekennzeichnet werden, handelt es sich um eine Verstöße.
Zhidongxi hat durch die Durchsicht verschiedener Inhaltsplattformen festgestellt, dass eine große Anzahl von KI-generierten und synthetisierten Bild- und Videoinhalten bereits mit "KI-generiert" oder "möglicherweise KI-generierte Inhalte" gekennzeichnet sind. Gleichzeitig sind viele Texteinhalte, die von KI synthetisiert wurden, nicht gekennzeichnet, und die Identifizierung dieser Inhalte bleibt schwierig.
▲ Kennzeichnung von KI-generierten Inhalten auf Xiaohongshu (links), Douyin (mitte) und QQ Music (rechts)
Ab dem 1. September tritt das von der Nationalen Internetinformationsbehörde, dem Ministerium für Industrie und Informationstechnik, dem Ministerium des Innern und der Nationalen Rundfunkwirtschaftsbehörde gemeinsam herausgegebene "Verfahren zur Kennzeichnung von künstlich intelligenter generierten und synthetisierten Inhalten" (kurz: "Verfahren") in Kraft. Das Verfahren fordert klar, dass alle von KI generierten Texte, Bilder, Audios, Videos und virtuelle Szeneninhalte mit expliziten oder impliziten Kennzeichnungen versehen sein müssen und nicht mehr unter echt menschlichen Werken "verstecken" können.
▲ Auszug aus der Ankündigung des "Verfahrens"
Das verbindliche nationale Standardverfahren "Netzsicherheitstechnologie - Verfahren zur Kennzeichnung von künstlich intelligenter generierten und synthetisierten Inhalten" tritt am 1. September gleichzeitig mit dem "Verfahren" in Kraft. Es etabliert einen geschlossenen Regelkreis für Prüfung, Überwachung und Verantwortlichkeit auf der Regulierungsseite und normiert das Kennzeichnungssystem auf der technischen Seite.
Mit dem Inkrafttreten des Verfahrens haben die großen Inhaltsplattformen wie Tencent, Xiaohongshu, Sina Weibo, Douyin, Kuaishou und Bilibili sowie große Modellhersteller wie DeepSeek, Tencent (Yuanbao), Baidu, Zhipu Qingyan, MiniMax, SenseTime und Kunlun Wanwei erklärt, dass sie die neuen Vorschriften vollständig umgesetzt haben. Die KI ist nicht mehr der "unsichtbare Mann" im Hintergrund, sondern soll auf sichtbare und nachvollziehbare Weise mit uns koexistieren.
Alle Inhaltsplattformen fordern die aktive Ankündigung durch die Ersteller und die Einhaltung der Kennzeichnungspflicht durch die Plattform. Die Anbieter von KI-Modellen setzen vor allem die Hinzufügung von expliziten und impliziten Kennzeichnungen für alle generierten Inhalte um und erinnern die Benutzer daran, die Kennzeichnungen nicht zu löschen oder zu fälschen. Einige Inhaltsplattformen und KI-Modellhersteller haben auch Sanktionsbestimmungen wie Entfernung von Inhalten, Beschränkung der Reichweite und dauerhafte Sperrung erlassen.
Dennoch gibt es bei der ersten Umsetzung der Politik einige Probleme und Kontroversen. Während viele Autoren die KI-generierten und synthetisierten Inhalte unterstützen und aktiv kennzeichnen, halten einige Ersteller der Meinung, dass die Kennzeichnung von KI-Inhalten nicht einheitlich sein sollte und empfehlen eine feinere Verwaltung basierend auf dem Grad der KI-Beteiligung. Einige Benutzer werden auch fälschlicherweise in Mitleidenschaft gezogen, originale Inhalte werden fälschlicherweise als KI-generiert erkannt, und die Beschwerden bleiben erfolglos, oder es wird trotz aktiver Kennzeichnung die Reichweite eingeschränkt. Dies sind Bereiche, in denen das "Drei-Ebenen-Überprüfungs-System" des "Verfahrens" noch verbessert werden muss.
Langfristig gesehen könnte dies für die Benutzer eine radikale Veränderung der Informationslandschaft bedeuten, während es für Plattformen und Hersteller eine Prüfung ihrer Compliance darstellt.
01 Drei Tage nach der Umsetzung des "Verfahrens": Einige unterstützen die Betrugsverhütung, andere beschweren sich über Fehlidentifikationen und Reichweitenbeschränkungen
Das "Verfahren" definiert KI-generierte und synthetisierte Inhalte als Texte, Bilder, Audios, Videos, virtuelle Szenen und andere Informationen, die mit KI-Technologie generiert oder synthetisiert wurden. Diese Inhalte müssen durch explizite und implizite Kennzeichnungen unterschieden werden.
Explizite Kennzeichnung: Zum Beispiel Textwasserzeichen, Eckmarken oder Sprachhinweise, die den Benutzern direkt mitteilen, dass der Inhalt von KI generiert wurde. Implizite Kennzeichnung: Diese wird durch Techniken wie Metadaten und digitale Wasserzeichen in der Datei versteckt und dient der Inhaltsnachverfolgung und der späten Verantwortlichkeit.
Zhang Jiyu, der leitende Direktor des Zukunftsrechtsinstituts der Renmin-Universität von China, hat darauf hingewiesen, dass das "Verfahren" ein "Drei-Ebenen-Überprüfungs-System" vorsieht:
1. Wenn die KI-Herkunft eines Inhalts durch die implizite Kennzeichnung in den Metadaten bestätigt werden kann, sollte er direkt gekennzeichnet werden.
2. Wenn die KI-Herkunft nur durch Algorithmen vermutet werden kann, sollte er als "möglicherweise KI-generiert" gekennzeichnet werden, um originale Werke nicht fälschlicherweise in Mitleidenschaft zu ziehen.
3. Gleichzeitig empfehlen Experten, dass Plattformen einen Beschwerdekanal einrichten sollten, um es Benutzern zu ermöglichen, Beweise einzureichen und eine Nachprüfung zu veranlassen, um die Rechte der Ersteller zu schützen.
Auf der Branchenseite haben Experten darauf hingewiesen, dass nicht gekennzeichnete KI-Inhalte, die in öffentliche Datensätze gelangen, zu Datenkontamination führen würden und die Zuverlässigkeit des Trainings von großen Modellen beeinträchtigen würden. Das "Verfahren" beseitigt dieses Risiko von Grund auf. Gleichzeitig trägt die verpflichtende Kennzeichnung dazu bei, die traditionelle Inhaltsbranche zu schützen, Urheberrechtsverletzungen und Betrug zu reduzieren und die Compliance-Kosten der Plattformen zu senken.
Nach dem Inkrafttreten des "Verfahrens" wurde es von vielen Benutzern unterstützt. Viele Benutzer glauben, dass die Rechte der Originalautoren endlich geschützt werden können. Gleichzeitig schlagen viele Benutzer vor, dass Plattformen eine Funktion "KI mit einem Klick blockieren" hinzufügen sollten, da sie bereits visuell müde von KI-Inhalten sind und lieber reine menschliche Inhalte sehen möchten.
▲ Beispiel für Benutzerfeedback auf der Xiaohongshu-Plattform (Quelle: Offizielle Xiaohongshu-Account)
Andererseits haben einige Benutzer auch Einwände geäußert. Einige Benutzer sind der Meinung, dass die Kennzeichnung von KI-Inhalten nicht einheitlich sein sollte. In einigen Werken macht der KI-Anteil weniger als 50 % aus. Sie empfehlen, dass Plattformen eine feinere Verwaltungsweise einführen, um nicht diejenigen zu beeinträchtigen, die wirklich KI nutzen möchten, um zu schaffen. Einige Benutzer finden auch, dass die Kennzeichnungswasserzeichen hässlich wie Pflaster sind und möchten, dass die Kennzeichnung auf andere Weise erfolgt.
▲ Beispiel für Benutzerfeedback auf der Xiaohongshu-Plattform (Quelle: Offizielle Xiaohongshu-Account)
Darüber hinaus haben einige Benutzer berichtet, dass es in der Anfangsphase der Umsetzung der Politik auf den Inhaltsplattformen Fehlidentifikationen gab. Einige Benutzer haben angegeben, dass ihre Notizen keine KI-generierten Inhalte enthalten und nur mit dem Mobiltelefon aufgenommen wurden, aber dennoch mit der Markierung "Notiz enthält KI-generierte Inhalte" versehen wurden. Einige Benutzer klagen auch: "Warum wird mein Beitrag trotz Kennzeichnung für einen Monat eingeschränkt?" oder "Meine Beschwerden haben trotz zahlloser Versuche keine Wirkung". Dies zeigt, dass es Zeit braucht, um das von den Experten vorgeschlagene "Drei-Ebenen-Überprüfungs-System" zu verbessern.
▲ Beispiel für Benutzerfeedback auf der Xiaohongshu-Plattform (Quelle: Offizielle Xiaohongshu-Account)
02 Die wichtigsten Inhaltsplattformen handeln: Verstöße können zu Reichweitenbeschränkung, Entfernung von Inhalten und Sperrung führen
Mit dem Inkrafttreten des "Verfahrens" haben die wichtigsten Inhaltsplattformen in China schnell reagiert und Ankündigungen veröffentlicht, in denen die Kennzeichnungsregeln klar definiert wurden. Einige Plattformen haben auch angekündigt, dass sie Maßnahmen wie Reichweitenbeschränkung, Entfernung von Inhalten und Sperrung gegen Benutzer ergreifen werden, die KI-generierte Inhalte nicht aktiv kennzeichnen.
Am 29. August hat das offizielle Xiaohongshu-Konto eine Ankündigung über die Kennzeichnung von KI-generierten und synthetisierten Inhalten veröffentlicht und gefordert, dass die Ersteller aktiv ankündigen und die Plattform die Kennzeichnungspflicht einhält.
Benutzer können die Markierung hinzufügen, indem sie auf der Veröffentlichungsseite auf Einstellungen → Ankündigung des Inhaltstyps → "Notiz enthält KI-synthetisierte Inhalte" klicken. Für nicht aktiv gekennzeichnete KI-generierte und synthetisierte Inhalte hat die Plattform das Recht, auf Grundlage gesetzlicher Anforderungen explizite oder implizite Kennzeichnungen hinzuzufügen. Benutzer dürfen die relevanten Kennzeichnungen nicht böswillig löschen, verändern oder verstecken.
▲ Xiaohongshu-Ankündigung
Wie unten zu sehen ist, haben wir festgestellt, dass viele Inhalte auf Xiaohongshu bereits mit der Markierung "KI-generiert" versehen sind.
▲ Die aktive Markierung durch Benutzer (links) und die von der Plattform erkannte Markierung (rechts) erscheinen an verschiedenen Stellen
Bei einigen KI-generierten Textinhalten, wie z. B. wenn Blogger klar angegeben haben, dass der Inhalt von DeepSeek generiert wurde, erscheinen jedoch immer noch keine automatischen Markierungen oder von der Plattform erkannte Markierungen auf der Inhaltsseite.
▲ Es fehlt die Markierung bei DeepSeek-generierten Textinhalten
Am gleichen Tag hat das offizielle Sina Weibo-Konto angekündigt, dass es die KI-Kennzeichnungspflicht gemäß den Anforderungen des "Verfahrens" umsetzen wird. Benutzer müssen sich selbst ankündigen; die Plattform hat auf der Veröffentlichungsseite zusätzlich zu der Option für die Selbstankündigung von KI-Inhalten auf der Beschwerdeseite eine Kategorie "Keine KI-Kennzeichnung hinzugefügt" hinzugefügt; die Plattform wird die erkannte KI-generierte Inhalte im Plattform gemäß den Vorschriften mit impliziten und expliziten Kennzeichnungen versehen.
▲ Sina Weibo