Gerade wurden alle Details des Claude-Textwasserzeichens vollständig offengelegt, und das offizielle Erkennungstool wird in Kürze veröffentlicht.

Gerade hat Anthropic offiziell einen Beitrag veröffentlicht, der die Funktionsweise des Textwasserzeichens von Claude erläutert.

Nach offiziellen Angaben hat Anthropic schließlich den Weg von SynthID-Text von Google DeepMind gewählt, um die Anforderungen der EU an maschinenlesbare Kennzeichnungen für KI-generierte Inhalte zu erfüllen. Da derzeit noch keine zuverlässige Lösung zur regionsspezifischen Unterscheidung fehlt, wird dieses Wasserzeichen nach seiner Einführung direkt für alle Claude-Nutzer weltweit angewendet.

Was die Hinzufügung des Wasserzeichens, ob es entfernt werden kann, ob die Verbesserung menschlicher Texte durch Claude zählt, ob Code davon betroffen ist, wie es bei Übersetzungen aussieht und wie es in Zukunft erkannt wird … Nun, all diese wichtigen Punkte, die die Nutzer interessieren, hat Anthropic dieses Mal praktisch vollständig beantwortet.

Anthropic versucht den Nutzern klar zu signalisieren: Seien Sie unbesorgt, das Wasserzeichen hat praktisch keine tatsächlichen Auswirkungen auf Claude.

Wenn man den gesamten Text liest, sind jedoch einige einschränkende Begriffe, die die Auswirkungen des Wasserzeichens im Blog beschreiben, schwer zu bewerten: „im Großen und Ganzen gleich“, „kein statistisch signifikanter Unterschied“, „vernachlässigbare Auswirkungen“, „vernachlässigbare Auswirkungen auf die Geschwindigkeit“ …

Praktisch keine Auswirkungen bedeutet letztendlich nicht völlig keine Auswirkungen. Selbst wenn bei aktuellen Benchmark-Tests keine offensichtlichen Qualitätsunterschiede festzustellen sind, lässt sich daraus nicht schließen, dass diese Auswirkungen bei allen Aufgaben, allen Textlängen und im langfristigen Einsatz vollständig vernachlässigt werden können.

Insbesondere wenn das Wasserzeichen tatsächlich in die tägliche Generierung von Claude einfließt, bleibt es eine große offene Frage, ob es in manchen Szenarien einen kleinen Teil der Generierungsqualität opfert und damit letztendlich das Nutzererlebnis beeinträchtigt.

Abschließend finden Sie die Übersetzung des Originalbeitrags, viel Spaß damit~

Wie funktioniert das Textwasserzeichen von Claude?

Texte, die von zukünftigen Modellen von Claude generiert werden, werden mit Wasserzeichen versehen.

Dieser Mechanismus kann verwendet werden, um die Wahrscheinlichkeit zu beurteilen, dass Claude an der Erstellung eines bestimmten Textabschnitts beteiligt war. Um das EU-KI-Gesetz einzuhalten, führen wir diese Änderung gemeinsam mit mehreren anderen großen KI-Anbietern durch.

In diesem Artikel beantworten wir einige häufig gestellte Fragen, einschließlich der Funktionsweise der von uns gewählten Wasserzeichenmethode, ob sie die Ausgabe von Claude beeinflusst und warum wir diese Änderung vornehmen.

Die kurze Zusammenfassung lautet wie folgt:

Die von uns verwendete Wasserzeichenmethode hat im praktischen Einsatz keine Auswirkungen auf die Qualität oder den Inhalt der Ausgabe von Claude;

Für Leser sind Texte mit und ohne Wasserzeichen nicht voneinander zu unterscheiden;

Dem Text wird kein zusätzlicher Inhalt hinzugefügt, und es gibt keine versteckten Zeichen;

Das Wasserzeichen verbraucht keine zusätzlichen Tokens, sodass auch keine Nutzungskosten steigen;

Das Wasserzeichen enthält keine Identitätsinformationen und kann nicht auf eine bestimmte Person, Organisation oder Chat-Nachricht zurückverfolgt werden;

Das Wasserzeichen wird auch kein ausschließlich von Claude verwendeter Mechanismus sein. Ab dem 2. August verlangt die EU von KI-Anbietern, die Dienstleistungen für ihren Markt anbieten, dass sie KI-generierte Inhalte kennzeichnen. Andere große Modellentwickler haben denselben „Verhaltenskodex“ unterzeichnet und werden ihre jeweiligen Wasserzeichenlösungen implementieren.

Was ist ein Wasserzeichen?

Große Sprachmodelle wie Claude arbeiten so, dass sie jedes Mal ein Wort generieren.

Jedes Mal, wenn das Modell das nächste Wort bestimmt, wählt es aus einer Gruppe möglicher Kandidatenwörter aus und wählt schließlich das sinnvollste oder wahrscheinlichste Wort basierend auf dem vorherigen Text aus.

Zum Beispiel ein Satz: „Das Wetter ist heute sehr kalt, und außerdem …“

Das nächste Wort kann fast nie „süß“ sein.

Aber es ist sehr wahrscheinlich „bewölkt“ oder „trüb“.

In den meisten Fällen macht es für den Leser kaum einen Unterschied, welches der beiden Wörter das Modell letztendlich ausgewählt hat, da die Gesamtbedeutung des Satzes im Wesentlichen gleich bleibt.

In solchen Fällen wird die konkrete Auswahl normalerweise durch eine Zufallszahl bestimmt.

Genau diese unbedeutenden Auswahlmöglichkeiten nutzt das Wasserzeichen.

In einem generierten Text tauchen viele solcher Auswahlmöglichkeiten wiederholt auf, sodass das Wasserzeichen ein bestimmtes Muster in der Antwort von Claude hinterlassen kann.

Leser können dieses Muster nicht wahrnehmen, aber jede Person, die über den entsprechenden Schlüssel verfügt, kann es erkennen.

Nach der Aktivierung des Wasserzeichens bleibt die Auswahl des Modells zufällig, aber die Quelle der Zufälligkeit ändert sich.

Das Modell verwendet keinen beliebigen Zufallszahlengenerator mehr, um das nächste Wort auszuwählen, sondern nutzt den Schlüssel und die vorherigen Wörter, um zu bestimmen, welches Wort ausgewählt werden soll.

Mit anderen Worten: Die von Claude ausgewählten Wörter sind immer noch zufällig, aber jetzt kann man diese Reihe von Wörtern überprüfen, um zu beurteilen, ob sie den Auswahlmöglichkeiten entsprechen, die Claude bei Verwendung dieses Schlüssels treffen würde.

Wenn dies der Fall ist, kann die Wahrscheinlichkeit berechnet werden, dass dieser Text von Claude generiert wurde.

Es ist zu betonen, dass dies nicht bedeutet, dass das Modell von nun an immer dazu neigt, „bewölkt“ oder „trüb“ zu wählen.

Wie bei fehlendem Wasserzeichen kann je nach vorherigen Wörtern in einem Satz „bewölkt“ und im nächsten Satz „trüb“ ausgewählt werden.

Der Wasserzeichenmechanismus zwingt Claude auch nicht dazu, Wörter auszuwählen, die es ursprünglich überhaupt nicht in Betracht gezogen hätte.

Zum Beispiel wird es Claude nicht plötzlich dazu veranlassen, ein Wort wie „nubilous“ zu verwenden – ein sehr seltenes Synonym für „bewölkt, trüb“, das Claude unter normalen Umständen mit ziemlicher Sicherheit nicht verwenden würde.

Wie beeinflusst das Wasserzeichen die Ausgabe von Claude?

Das Wasserzeichen beeinträchtigt nicht die Qualität der Ausgabe von Claude.

Für Leser sind Antworten mit Wasserzeichen nicht von Antworten ohne Wasserzeichen zu unterscheiden.

In dieser Hinsicht unterscheiden sich KI-Wasserzeichen stark von herkömmlichen Wasserzeichen auf Banknoten, anderen physischen Objekten und bestimmten digitalen Dokumenten, die normalerweise mit bloßem Auge sichtbar sind.

Bei internen Tests haben wir keine Auswirkungen des Wasserzeichens auf den Inhalt, das Kreativitätsniveau oder die Lesbarkeit des von Claude generierten Textes festgestellt.

In dem SynthID-Text-Papier, das die von uns verwendete Technologie vorstellt, hat Google DeepMind diese Auswirkungen speziell getestet.

🔗 https://www.nature.com/articles/s41586-024-08025-4

Sie ließen einen Teil der Gemini-Nutzer Modelle mit aktiviertem Wasserzeichen verwenden und verglichen dann die positiven und negativen Bewertungen der Nutzer.

Die Ergebnisse zeigten, dass es keine statistisch signifikanten Unterschiede zwischen den Modellen mit und ohne hinzugefügtes Wasserzeichen gab.

In einer weiteren kontrollierten Studie fanden menschliche Bewerter auch keine Qualitätsunterschiede, wenn sie Antworten mit und ohne Wasserzeichen nebeneinander verglichen.

Man kann dies mit einem Spiel wie „Monopoly“ vergleichen.

In jeder Runde bewegt sich der Spieler zufällig um einige Felder auf dem Spielbrett, basierend auf dem Ergebnis des Würfelwurfs.

Nehmen wir an, wir erhalten die Zufälligkeit nicht mehr durch Würfeln, sondern verwenden stattdessen ein Buch, das die Ziffern der Kreiszahl π aufzeichnet.

Wir wählen zuerst zufällig eine dieser Ziffern als Ausgangspunkt aus.

Zum Beispiel beginnen wir bei der 1.012.845. Ziffer nach dem Komma, und diese Ziffer ist genau 6.

Von diesem Punkt an verwendet jeder Spieler nacheinander die folgenden Ziffern von π als sein „Würfelergebnis“ in jeder Runde.

Aus praktischer Sicht sind diese Bewegungen immer noch zufällig.

Für die Spieler und sogar für das Ergebnis des gesamten Spiels macht es keinen Unterschied, ob die Zufälligkeit von π oder von den tatsächlich in jeder Runde geworfenen Würfeln stammt.

Aber wenn wir nach dem Spiel die vollständige Sequenz aller Bewegungen sehen und den genauen Wert von π kennen, können wir beurteilen, ob dieses Spiel wahrscheinlich unter Verwendung von π zur Bestimmung der Bewegungen gespielt wurde.

In gewissem Sinne wurde dieses Spiel, das π verwendet, „mit einem Wasserzeichen versehen“.

Dasselbe gilt für den von Claude generierten Text.

Das Wasserzeichen ändert nicht die eigentliche Bedeutung des Textes und auch nicht das Erlebnis des Lesers beim Lesen.

Aber wenn man im Nachhinein beurteilen möchte, ob ein Text wahrscheinlich von Claude generiert wurde, kann das Wasserzeichen diese Erkennung unterstützen.

Welche spezifische Wasserzeichenmethode verwendet ihr?

Das Textwasserzeichen von Claude verwendet eine Version der SynthID-Text-Methode, die Google DeepMind 2024 in einem in „Nature“ veröffentlichten Papier vorgestellt hat.

Sie gehört zu einer Reihe verwandter Methoden.

Diese Reihe von Methoden geht zurück auf einen Ansatz, der 2022 von Scott Aaronson vorgeschlagen wurde.

Sie alle folgen dem zuvor vorgestellten gleichen Designprinzip: Das Wasserzeichen ändert nur die Quelle der Zufälligkeit, die das Modell bei der Auswahl zwischen mehreren Kandidatenwörtern verwendet.

Die Wirksamkeit des Wasserzeichens unterliegt auch einigen Einschränkungen.

Mit unserem Schlüssel kann nur eine Frage beantwortet werden: „Wie groß ist die Wahrscheinlichkeit, dass dieser Text teilweise von Claude verfasst wurde?“

Es kann nicht bestätigt werden, ob der Text von einem Menschen verfasst wurde.

Es kann auch nicht beurteilt werden, ob der Text von einem anderen KI-Modell geschrieben wurde.

Selbst wenn ein anderes KI-Modell ebenfalls Wasserzeichen verwendet, verfügt es über einen anderen Schlüssel und verwendet möglicherweise sogar eine völlig andere Wasserzeichentechnologie.

Bei sehr kurzen Textproben funktioniert die Wasserzeichenerkennung auch nicht sehr gut.

Denn bei kurzen Texten gibt es weniger Wortauswahlen, sodass weniger Informationen zur Beurteilung zur Verfügung stehen.

Mit zunehmender Textlänge steigt auch unser Vertrauen, ob Claude an der Erstellung beteiligt war.

In faktisch starken Texten ist das Wasserzeichen normalerweise spärlicher verteilt.

Denn bei solchen Texten gibt es weniger Wörter, die frei ausgewählt werden können. Wenn man die Auswahl erzwingt, kann die sachliche Genauigkeit beeinträchtigt werden.

Zum Beispiel dieser Satz: „Isaac Newtons berühmtestes Werk heißt Philosophiæ Naturalis Principia Mathematica …“

Wenn bereits „Principia“ geschrieben wurde, ist es sehr wichtig, dass das nächste Wort „Mathematica“ ist, da dies die einzig richtige Antwort ist.

An solchen Stellen gibt es also keinen Raum für das Wasserzeichen, um zu wirken.

Dasselbe gilt für das Korrekturlesen.

Wenn Sie Claude einen Text übergeben und es auffordern, nur Grammatik und Satzzeichen zu ändern und sonst nichts zu verändern, kann das Wasserzeichen nur an wenigen geänderten Stellen vorhanden sein.

Diese Änderungen können so geringfügig sein, dass sie nicht erkannt werden können.

Was passiert, wenn Claude nur von Menschen verfasste Texte korrigiert oder bearbeitet?

Das Wasserzeichen wirkt nur auf die Wörter, die Claude selbst ausgewählt hat.

Wenn Claude einen von Menschen verfassten Text korrigiert, wird der zurückgegebene Inhalt normalerweise nur leicht bearbeitet.

Da fast alle Wörter vom ursprünglichen Autor stammen, gibt es kaum Stellen, an denen das Wasserzeichen haften kann, oder es gibt sogar überhaupt keine.

Ob die Beteiligung von Claude erkannt werden kann, hängt von der Länge des Textes und dem Ausmaß der Änderungen ab, die Claude vorgenommen hat.

Diese Änderungen reichen manchmal nicht aus, um die Beteiligung von Claude erkennbar zu machen.

Je mehr Claude schreibt, desto mehr Wortauswahlen muss es treffen, desto größer ist der Raum, in dem das Wasserzeichen vorhanden sein kann.

Was ist mit Code?

Wie bereits erwähnt, nutzt das KI-Wasserzeichen solche Auswahlmöglichkeiten aus: Zwei verschiedene Wörter sind gleichermaßen geeignet, und das Modell kann zwischen ihnen wählen.

Wenn eine Position eine genaue Ausgabe erfordert, also keine Auswahlmöglichkeit besteht und ein anderes Wort zu einem sachlichen Fehler führen oder den Code nicht ausführen lassen würde, wird an dieser Stelle kein Wasserzeichen angewendet.

Zum Beispiel, wenn das Modell bereits „2 + 2 =“ geschrieben hat, gibt es eine sehr klare beste Auswahl für das nächste Token.

Wenn das Modell diese Rechenaufgabe löst, gibt es keine Antwort, die genauso richtig ist wie „4“.

Daher übt das Wasserzeichen hier keinen „leichten Einfluss“ aus.

Aus demselben Grund muss Code in vielen Fällen präzise bleiben, sodass er normalerweise weniger Wasserzeichen enthält als andere Arten von Text.

Trotzdem kann das Wasserzeichen an Stellen im Code, an denen tatsächlich Raum für willkürliche Auswahl besteht, weiterhin wirken.

Zum Beispiel die Formulierung in Codekommentaren.

Aber per Definition wird der Einfluss dieses Mechanismus auf die tatsächliche Generierung des Codes selbst minimal sein.

Was bedeutet das für Nutzer?

Wird das Modell durch das Wasserzeichen langsamer oder teurer?

Nein.

Die Auswirkungen des Wasserzeichens auf die Geschwindigkeit des Modells sind vernachlässigbar.

Da es keine zusätzlichen Tokens generiert, ändern sich weder die Betriebskosten des Modells noch die Nutzungspreise für die Nutzer