Das Unternehmen Anthropic hat damit begonnen, in Texte, die von seinem Modell Claude generiert werden, ein unsichtbares Wasserzeichen einzufügen. Dem Inhalt werden keine versteckten Zeichen hinzugefügt, dennoch lässt sich bei einem ausreichend langen Ausschnitt mathematisch die Wahrscheinlichkeit überprüfen, dass die KI der Urheber ist. Das Unternehmen hat diesen Schritt aufgrund der europäischen Gesetzgebung unternommen. Ein Teil der Nutzer empfindet dies jedoch als Verrat, und einige kündigen sogar ihr Abonnement.
Wie aus der Wortwahl eine Signatur wird
Um das gesamte Prinzip zu verstehen, ist es entscheidend zu wissen, wie große Sprachmodelle funktionieren. Claude generiert Text Wort für Wort und wählt dabei für jede weitere Position aus mehreren am besten geeigneten Kandidaten aus. Bei dem Satz „Das heutige Wetter war kalt und …“ wird das System mit hoher Wahrscheinlichkeit nicht das Wort „süß“, sondern eher „bewölkt“ oder „grau“ wählen. Für die Leser spielt die konkrete Wahl meist keine Rolle, und über das endgültige Ergebnis entscheidet ein Algorithmus zur Erzeugung von Zufallszahlen.
Und genau hier hat Anthropic eingegriffen. Die Quelle dieses Zufalls ist nämlich nicht mehr ein gewöhnlicher Generator, sondern ein spezifischer Schlüssel in Kombination mit mehreren vorhergehenden Wörtern. Die Auswahl bleibt zwar zufällig, doch wer diesen Schlüssel besitzt, kann nachträglich überprüfen, ob die Wortfolge dem entspricht, was das Modell auf Grundlage des Schlüssels ausgewählt hätte. So entsteht im Text ein Muster, das der Leser nicht erkennen kann.
Anthropic erläuterte dies am Beispiel des Spiels Monopoly. Statt zu würfeln, würden die Spieler Werte aus einem Buch voller Ziffern der Kreiszahl Pi entnehmen, wobei sie an einer zufälligen Stelle beginnen und anschließend der Reihe nach fortfahren würden. Für den eigentlichen Spielverlauf ändert sich nichts, doch wer Pi kennt, kann nach dem Ende der Partie erkennen, dass die Züge nicht durch einen gewöhnlichen Würfel bestimmt wurden.
Wo das Zeichen erscheint und wo nicht
Die Methode hat jedoch ihre Grenzen. Aus dem Schlüssel lässt sich lediglich ablesen, mit welcher Wahrscheinlichkeit Claude an dem Text beteiligt war. Sie kann weder bestätigen, dass der Text von einem Menschen geschrieben wurde, noch eine andere künstliche Intelligenz erkennen, da diese einen eigenen Schlüssel oder eine völlig andere Methode verwenden würde. Bei kurzen Ausschnitten funktioniert die Erkennung zudem schlecht, weil sie nur wenige Entscheidungen enthalten, während die Sicherheit mit zunehmender Länge steigt.
Die Methode versagt auch dort, wo es nur eine einzige richtige Variante gibt. Auf die Worte „Newtons berühmtestes Werk hieß Principia …“ muss schlicht „Mathematica“ folgen, sodass das Wasserzeichen keinen Spielraum hat. Ähnlich verhält es sich bei Berechnungen, bei denen auf die Eingabe „2 + 2 =“ nur eine einzige richtige Antwort existiert.
Programmierer dürfte interessieren, wie es sich mit Quellcode verhält. Dieser trägt die Markierung schwächer, weil das Modell eine funktionierende Lösung schreiben muss und häufig nicht zwischen vielen Alternativen wählen kann. An Stellen, an denen die Wahl beliebig ist, beispielsweise in Kommentaren, kann das Wasserzeichen auftreten, im eigentlichen funktionsfähigen Programm ist es jedoch kaum erkennbar.
Ein besonderes Kapitel bilden Korrekturen fremder Texte. Das Wasserzeichen ist nämlich nur an Formulierungen gebunden, die Claude selbst ausgewählt hat. Wenn das Modell einen Text nur leicht korrigiert, bleibt der Großteil der ursprünglichen Wörter menschlichen Ursprungs, und die Markierung findet kaum Ansatzpunkte. Bei Übersetzungen ist es jedoch genau umgekehrt. Dort wählt das Modell jedes Wort aus, sodass der resultierende Text das Wasserzeichen enthält.
Grund für die Einführung der Wasserzeichen
Das Unternehmen räumt ein, damit lediglich eine Verpflichtung zu erfüllen. Im Juli 2026 unterzeichnete es gemeinsam mit weiteren großen Anbietern von KI-Modellen und rund 190 Akteuren den europäischen Verhaltenskodex zur Transparenz. Dieser verlangt von den Entwicklern solcher Systeme, maschinell generierte Inhalte klar zu kennzeichnen. Nach den Vorschriften der EU müssen dann ab Dezember alle von künstlicher Intelligenz erstellten Texte auf diese Weise gekennzeichnet sein.
Anthropic kennzeichnet Texte weltweit, weil das Unternehmen bislang keine zuverlässige Möglichkeit hat, diese Funktion auf eine bestimmte Region zu beschränken. Claude wird dabei zudem nicht allein bleiben. Ab dem 2. August verlangt die Union von allen auf ihrem Markt tätigen Anbietern eine Kennzeichnung der Inhalte. Auch andere Technologieentwickler haben dieselbe Verpflichtung unterzeichnet und bereiten bereits eigene Wasserzeichen vor. Für ältere Modelle, die vor diesem Datum eingeführt wurden, gilt zwar eine Übergangsfrist, Anthropic plant jedoch, sie in den kommenden Monaten nachträglich damit auszustatten.
Wird sich die Qualität des Textes verschlechtern?
Der lauteste fachliche Einwand betrifft die Qualität der Ausgabe. Der bekannte Blogger John Gruber bezeichnete das gesamte Verfahren als Zerstörung des eigentlichen Wesens des Schreibens. Er behauptet, das Wasserzeichen binde Claude die Hände und zwinge ihn, weniger geeignete Wörter auszuwählen. Das Ergebnis müsse seiner Ansicht nach zwar nicht ausdrücklich falsch sein, werde insgesamt aber dennoch schlechter ausfallen.
Steven Murdoch, Professor für Informatik am University College London, sieht das anders. Seiner Ansicht nach wird die Veränderung höchstwahrscheinlich überhaupt nicht spürbar sein. Zufall ist für diese Modelle nämlich bereits jetzt unverzichtbar, da sie sonst in Schleifen hängen bleiben und ständig dasselbe wiederholen würden. Die Zufallszahlengeneratoren bleiben zwar gleich, ihre Ausgabe ist nun jedoch statistisch vorhersehbar. Er erinnerte außerdem daran, dass das Modell über die Wahl zwischen zwei Synonymen nicht nachdenkt, sondern sie schlicht auf Grundlage des Zufalls generiert.
Anthropic stützt sich auf eigene Messungen. Bei unternehmensinternen Tests wurde kein negativer Einfluss auf den Inhalt, das Maß an Kreativität oder die Lesbarkeit festgestellt. Das Unternehmen verweist dabei auf eine Arbeit von Google DeepMind, bei der die Entwickler der Methode SynthID-Text ein gekennzeichnetes Modell im Produktivbetrieb von Gemini einsetzten. Bei Nutzerbewertungen mithilfe von Daumen-Symbolen stellten sie anschließend keinen statistisch signifikanten Unterschied fest. Auch menschliche Prüfer erkannten in einer Vergleichsstudie zwischen einer gekennzeichneten und einer nicht gekennzeichneten Antwort keinen qualitativen Unterschied.
Wovor die Nutzer Angst haben
Die Reaktionen in den sozialen Netzwerken fielen scharf aus. Ein Beitrag auf Reddit bezeichnete diesen Schritt als Verschwörung gegen unschuldige Nutzer, ein anderer hielt dagegen, der einzige Grund für die Ablehnung des Wasserzeichens sei die Absicht, Menschen zu belügen. Business Insider berichtete außerdem, dass Dutzende Nutzer auf der Plattform X wegen der Einführung der Markierung bereits die Kündigung ihres Abonnements angekündigt hätten.
Fortgeschrittene Nutzer werden sich Kritikern zufolge behelfen, indem sie den Text umschreiben oder von einem anderen Dienst bearbeiten lassen, während sich gewöhnliche Nutzer leicht verraten könnten. Als Beispiele werden Studierende genannt, die einen Absatz umformulieren lassen, Journalisten, die eine Zusammenfassung eines zweihundertseitigen Transkripts in Auftrag geben, oder Autoren mit einer Schreibblockade, die nach Synonymen suchen. TechCrunch wendet jedoch ein, dass diese Bedenken unbegründet seien. Journalisten seien durch eine generierte Zusammenfassung nämlich in keiner Weise gefährdet, solange sie diese nicht direkt in ihren Artikel kopierten, was ohnehin nicht geschehen sollte. Dasselbe gelte demnach für Studierende und ihre Essays.
Eine zweite Linie des Widerstands dreht sich um die Urheberschaft. Ein unzufriedener Nutzer bezeichnete diese versteckte Kennzeichnung als unethisch. Er argumentierte, dass er selbst die Anweisungen, den Kontext, die Entscheidungen und unzählige Überarbeitungen beigesteuert habe, sodass Claude lediglich ein Werkzeug gewesen sei. Zugleich fragte er, warum das Modell überhaupt irgendeine Anerkennung für sich beanspruche. Andere hielten ihm jedoch entgegen, dass es nicht um Anerkennung gehe. Ziel sei lediglich die Möglichkeit, maschinell erstellte Inhalte zu erkennen, da diese in bestimmten Situationen Schaden anrichten könnten. Ein anderer Kritiker wählte ein ausgefeilteres Argument und sprach von Heuchelei. Er erinnerte daran, dass die Modelle selbst durch das massenhafte Aufnehmen fremder urheberrechtlich geschützter Werke entstanden seien.
Anthropic dämpft die Reaktionen
Anthropic selbst dämpft die Erwartungen daran, was das Wasserzeichen alles nachweisen kann. Es zeigt nämlich lediglich, dass Claude wahrscheinlich in irgendeiner Weise an der Erstellung des Inhalts beteiligt war. Es kann jedoch nicht unterscheiden, ob das Modell den Text vollständig geschrieben oder ihn nur umfassend umgeschrieben hat. Zudem führt keine Spur zum Nutzer oder zu seiner Organisation, und weder die Markierung noch der Schlüssel enthalten Daten, anhand derer sich die Identität nachträglich ermitteln ließe. Eigentum und Verantwortung für die endgültige Ausgabe ändern sich dadurch in keiner Weise.
Die praktische Seite der Angelegenheit bleibt bislang offen. Eine Schnittstelle zur Überprüfung des Wasserzeichens wird vom Unternehmen erst noch entwickelt, und auch die Einzelheiten seiner endgültigen Form müssen noch ausgearbeitet werden. Bei Multimediadateien ist die Situation zudem völlig anders. Bilder und andere unterstützte Formate erhalten in ihren Metadaten eine kryptografisch signierte Markierung nach dem offenen Standard C2PA. Dieser wird sowohl von Kameraherstellern als auch von Bildbearbeitungsprogrammen genutzt, wobei sich am eigentlichen Inhalt der Datei nichts ändert.
Die Markierung lässt sich dabei durchaus entfernen. Kleinere Änderungen werden sie zwar wahrscheinlich nicht vollständig löschen, eine komplette Überarbeitung, bei der kein Stein auf dem anderen bleibt, hingegen schon. In einem solchen Fall stellt sich jedoch die Frage, ob der resultierende Text überhaupt noch als Werk künstlicher Intelligenz betrachtet werden kann.
Quellen: theguardian.com und techcrunch.com
