KI-generierte Texte bekommen eine unsichtbare Signatur

KI-generierte Texte könnten künftig etwas enthalten, das für Leser unsichtbar bleibt: eine digitale Markierung, die auf ihren KI-Ursprung hinweist.

Was ändert sich?

Anthropic plant, Wasserzeichen für mit Claude generierte Texte einzuführen. Damit soll es einfacher werden, KI-generierte Inhalte als solche zu erkennen.

Die Entwicklung steht im Zusammenhang mit zunehmenden Transparenzanforderungen – unter anderem durch den EU AI Act.

Wie funktioniert ein Text-Wasserzeichen?

Anders als ein sichtbarer Hinweis wie „Mit KI erstellt“ kann ein Wasserzeichen direkt im Text verborgen sein.

Dazu können beispielsweise bestimmte statistische Muster bei der Wortwahl genutzt werden. Spezielle Erkennungssysteme analysieren diese Muster und können Hinweise darauf liefern, ob ein Text von einer KI stammt.

Warum ist das wichtig?

Eine bessere Erkennung von KI-Inhalten kann helfen bei:

• Transparenz – Herkunft von Inhalten nachvollziehbarer machen

• Desinformation – künstlich erzeugte Inhalte besser erkennen

• Täuschung – missbräuchliche KI-Inhalte schwerer verschleiern

Wasserzeichen sind allerdings nicht unfehlbar. Starkes Überarbeiten, Übersetzen oder Umschreiben kann die Erkennung erschweren.

Der grössere Trend: Transparenz wird zunehmend direkt in KI-Technologien integriert.

Quelle: Anthropic's Claude to watermark AI-generated text