Der Softwarehersteller Anthropic versieht von seinem Chatbot Claude generierte KI-Texte künftig mit digitalen Wasserzeichen. Das gibt das US-Unternehmen auf seinen Hilfeseiten bekannt . Bestimmten Typen von Dateien, die Claude generiert, wird Anthropic zudem signierte Herkunftsmetadaten anfügen. Diese Metadaten sollen zum Beispiel im Fall von PNG- oder JPEG-Bilddateien transparent machen, dass diese von Claude verarbeitet wurden.

Das zunächst nur grob skizzierte Kennzeichnungssystem ist eine Reaktion des Unternehmens auf das europäische KI-Gesetz (AI Act) sowie den EU-Verhaltenskodex für die Transparenz von KI-generierten Inhalten , den Anthropic, wie viele andere Digitalfirmen auch , freiwillig unterzeichnet hat.

Seit dem 2. August gelten in der EU neue Transparenzvorschriften zum Thema künstliche Intelligenz (KI), bei deren Umsetzung der Kodex helfen soll. Anthropic erklärt dazu , dass alle ab diesem Datum in der EU eingeführten Claude-Modelle von Anfang an eine »maschinenlesbare Kennzeichnung« unterstützen. »Generierter Text wird mit eingebetteten Wasserzeichen versehen, und generierte Dateien enthalten digital signierte Herkunftsmetadaten, wo unterstützt«, heißt es. Daran, dieses System auch für bereits auf dem Markt befindliche Claude-Modelle umzusetzen, arbeite man derzeit noch.

Text rauskopieren? Die Markierung soll mitkommen

Allzu konkrete Details zu seinen Text-Wasserzeichen nennt Anthropic bislang nicht, das Unternehmen betont aber: »Wir werden Benutzer und andere Dritte dabei unterstützen, Claudes Markierungen zu erkennen, wie der Kodex verlangt, und werden Details in zukünftiger Dokumentation bereitstellen.«

Zum geplanten Text-Wasserzeichen schreibt Anthropic, man werde dieses »nicht sehen, und es ändert nicht die Bedeutung, Qualität oder Lesbarkeit von Claudes Antwort«. Die Markierung sei ein »Teil des Textes« und werde daher »mitgenommen«, wenn dieser kopiert und an anderer Stelle eingefügt wird. Das Wasserzeichen könne auch einige Bearbeitungen eines Textes überstehen.

Kein Allheilmittel

Zugleich warnt Anthropic schon jetzt davor, aus entdeckten Markierungen voreilige Schlüsse zu ziehen. So heißt es: »Menschen nutzen Claude häufig zum Korrekturlesen, Übersetzen, Zusammenfassen oder Konvertieren von Dateien. Die Ausgabe kann eine Claude-Markierung tragen, auch wenn die zugrunde liegenden Ideen, Texte oder Daten aus einer anderen Quelle stammen.«

Alternativ könnten sich mit einem Wasserzeichen markierte Texte auch nach einer Verarbeitung durch Claude noch verändert haben, schreibt Anthropic, etwa indem sie gekürzt oder mit anderem Material kombiniert wurden.

Das Fehlen einer Markierung wiederum garantiere nicht, dass ein Text nicht von Claude generiert oder verarbeitet wurde. Einerseits gebe es natürlich Texte, die bereits vor Einführung des Systems mit dem Chatbot erstellt wurden. Anderseits könnten KI-generierten Inhalten Markierungen auch dann fehlen, wenn etwa ein Absatz sehr kurz sei und deshalb zu wenig Text für ein zuverlässiges Signal umfasse. Auch durch starkes Umformulieren, Übersetzen oder Einmischen in andere Inhalte können die Wasserzeichen Anthropic zufolge aus Texten verschwinden.

Der Ansatz, KI-Texte oder auch Fotos und Videos mit digitalen, fürs menschliche Auge unsichtbaren Wasserzeichen zu markieren, ist grundsätzlich nicht neu. Google zum Beispiel setzt ein Kennzeichnungssystem namens SynthID  ein, das Usern dabei helfen soll, herauszufinden, ob Inhalte mit KI von Google erstellt oder bearbeitet wurden.

So lässt sich etwa Google-Chatbot Gemini dazu befragen, ob er in Fotos, Videos oder Audiodateien ein SynthID-Wasserzeichen findet. Erkennt Gemini in einer Mediendatei eine solche Markierung, rät aber auch er zur Vorsicht, mit Hinweisen wie diesem: »Bitte beachten Sie, dass keine Technologie perfekt ist.«

Viele bekannte Unterzeichner

Den EU-Verhaltenskodex haben neben Anthropic unter anderem Google, Meta, Microsoft, Mistral und OpenAI unterzeichnet . In dem Dokument  heißt es mit Verweis auf den AI Act, KI-Anbieter müssten sicherstellen, dass die Ergebnisse ihrer Systeme in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar seien. Die Lösungen sollten »wirksam, interoperabel, robust und zuverlässig« sein, soweit dies technisch machbar sei. Auch die Besonderheiten und Einschränkungen verschiedener Arten von Inhalten, die Umsetzungskosten und der allgemein anerkannte Stand der Technik seien zu berücksichtigen.