close notice

Es ist eine Lösung nach bester Bürokraten-Manier: Ein Stempel soll es richten. Die Europäische Union verlangt eine Kennzeichnung für KI-Generiertes. Anthropic setzt dies in seiner Künstlichen Intelligenz Claude um. Das sorgt vor allem bei Texten für Diskussionen: Wie lässt sich ein solches Wasserzeichen überhaupt umsetzen? Wie robust ist es? Und was sagt es am Ende tatsächlich aus? Die größte Gefahr ist freilich, dass das technische Signal überbewertet wird. Dass es nämlich als Echtheitssiegel gilt, wenn ein Text kein Wasserzeichen enthält. Und genau dies kann das Wasserzeichen in Claude nicht gewährleisten.

Auf den ersten Blick klingt das Wasserzeichen verlockend. Gefälschte Bewertungen, Social-Media-Bots und Desinformationskampagnen könnten künftig leichter als solche entlarvt werden. Bei Bildern und Videos gibt es unsichtbare Wasserzeichen schon lange. Beim Text mussten sich die Menschen bislang auf ihr Bauchgefühl und Tools verlassen, die nach statistischen Merkmalen suchen. Und mit zunehmend besser werdenden Large Language Models wird das Erkennen von bestimmten KI-typischen Merkmalen immer schwieriger.

Aber diese Probleme mit einem Wasserzeichen erschlagen zu wollen, könnte sich als naive Fehleinschätzung erweisen. Eher dürfte das Wasserzeichen dazu beitragen, dass die Verwirrung noch größer wird.

Rätselraten über die Funktionsweise

Viel hängt davon ab, wie genau der Mechanismus hinter dem Wasserzeichen aussehen wird. Anthropic behauptet, dass der Text in einer Art und Weise gekennzeichnet wird, dass es für den Menschen nicht sichtbar ist und auch nicht zu großen Veränderungen führt. Wie so etwas aussehen kann, haben Forscher in einem Papier dargelegt. Vereinfacht gesagt teilt das Verfahren die möglichen nächsten Textbausteine – sogenannte Tokens – immer wieder in zwei Gruppen ein. Tokens aus einer der Gruppen werden bei der Erzeugung leicht bevorzugt. Ein Detektor kann später diese Aufteilung nachrechnen und ermitteln, ob bestimmte Wörter statistisch besonders häufig auftauchen.

Sollte Anthropic auf ein vergleichbares statistisches Verfahren setzen, dürfte der Schutz tatsächlich so unauffällig sein, dass er die Qualität normaler Texte kaum mindert – zumindest, wenn es sich nicht um Programmcode handelt. Aber er ist so pauschal angelegt, dass er auch Texte als KI-Erzeugnisse vereinnahmen könnte, die gar keine sind. Und je robuster das Wasserzeichen gegen Bearbeitung sein soll, desto stärker muss der Mechanismus am Ende doch in den Text eingreifen.

Risiko der falschen Brandmarkung

Benutzer, die zum Beispiel ihren selbstgeschriebenen Text zur Überarbeitung an die KI geben, werden künftig mit dem Risiko leben müssen, dass ihre Texte komplett als KI-Erzeugnis gebrandmarkt werden – auch wenn über den ganzen Text hinweg nur an einzelnen Formulierungen und Wörtern gefeilt wurde. Auch Übersetzungen sind ein solches Minenfeld. Die EU sieht zwar im AI Act hierfür eine Ausnahme vor: Standardbearbeitungen und nicht wesentliche Veränderungen müssen nicht als künstlich erzeugt gekennzeichnet werden (AI Act, Art. 50). Einen detaillierten Überblick über alle Kennzeichnungspflichten ab August 2026 liefert unser Ratgeber. Aber wo fangen wesentliche Veränderungen an? Und berücksichtigen das die KI-Modelle wie Claude?

Der unsichtbare Stempel wird zweifellos ein Hemmnis sein – bei denjenigen, die nicht dran denken, die Deepfakes auf billige Weise realisieren oder es schlichtweg nicht mitbekommen haben. Aber das bisschen mehr Schutz kommt zu dem Preis vermeintlicher Sicherheit und dem Risiko von Falschverdächtigungen. Das technische Merkmal lädt zur Überinterpretation ein, denn die Trennlinie zwischen KI und menschlichem Tun ist längst verwässert. Am Ende also kein Bärchen-Stempel für die EU. Eher droht die Gefahr, dass wir uns als Gesellschaft selbst einen Bären aufbinden, wenn wir meinen, dass menschliche und künstliche Inhalte anhand eines Wasserzeichens zuverlässig auseinanderzuhalten sind.

(mki)