WTF: Anthropic sagt, sein Wasserzeichen funktioniere. Vielleicht. Manchmal.

Seit zwei Wochen gilt die Kennzeichnungspflicht für mit künstlicher Intelligenz generierte Inhalte in der Europäischen Union, und schon hat Anthropic reagiert. Es ist ja nicht so, dass seit fünf Jahren bekannt wäre, dass da eine Regulierung kommt. Falls Sie Ironie bis Sarkasmus noch nicht bemerkt haben: Dies ist eine WTF-Meldung, das gehört dazu.

Selten hatte sich ein Unternehmen wie Claude-Herausgeber Anthropic solche Häme so sehr verdient, da sind wir bei heise online nicht allein – dazu gleich mehr. Schon die Art, wie die KI-Firma, die angeblich auch das gefährlichste KI-Modell der Welt entwickelt, ihre Kennzeichnung kommuniziert, ist schlicht stümperhaft. Das Highlight steckt in der Antwort in den FAQs zur Kernfrage, die Anthropic auch wörtlich so stellt: „Was belegt ein Wasserzeichen eigentlich?“

Die Antwort, mit menschlicher Intelligenz übersetzt: „Ein Wasserzeichen kann nur bestimmen, dass Claude wahrscheinlich an irgendeinem Punkt mit dem Inhalt zu tun hatte. Es kann nicht zwischen ‚Claude hat das geschrieben‘ und ‚Claude hat das bearbeitet‘ unterscheiden.“

Ist da, kannst du aber nicht prüfen

Also, wie in der Überschrift zugespitzt: Vielleicht funktioniert das manchmal. Und nicht mal die beiden Grundfunktionen des Textgenerators könne irgendein Tool unterscheiden. Ein solches Tool gibt es übrigens noch nicht, das steht auch im Blog von Anthropic: „bald“ soll es ein API zur Erkennung des Wasserzeichens geben. Heißt also: Vertrau mir, Bruder, das Ding ist schon im Text drin, du kannst es aber nicht sehen. Kommt garantiert noch! Und, jetzt wieder wörtlich, an den „Details dieser Umsetzung“, arbeite man derzeit noch. Selbst, ob das API dann öffentlich zugänglich wird, sagt das Unternehmen noch nicht.

Ein klassisches, in Papier eingebrachtes Wasserzeichen soll man übrigens auch gar nicht auf den ersten Blick sehen können, aber es muss möglich sein. Bei Anthropics Kennzeichnung für Text ist das bisher aber gar nicht möglich. Und damit ist das Wasserzeichen, so überhaupt vorhanden, schlicht nutzlos. Wie das denn generell funktionieren soll – die Basis ist Googles zwei Jahre altes Konzept SynthID – wurde in der letzten heise show schon erklärt. Für Bilder setzt Claude andere Verfahren ein.

Empfohlener redaktioneller Inhalt

Mit Ihrer Zustimmung wird hier ein externes YouTube-Video (Google Ireland Limited) geladen.

Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit können personenbezogene Daten an Drittplattformen (Google Ireland Limited) übermittelt werden. Mehr dazu in unserer Datenschutzerklärung.

Was man Anthropic nicht unbedingt vorwerfen kann, ist die Verwendung des Begriffs „Wasserzeichen“. Der ist seit Jahren dummerweise auch für digitale Inhalte üblich, und die Kennzeichnung war bisher oft leicht zu entfernen. Aber das Wasserzeichen im Papier ist an ein Medium gebunden: Du kannst Geldscheine illegal noch so gut drucken können, solange du das richtige Papier mit Wasserzeichen und anderen Spezialitäten nicht hast, fällt die Fälschung sofort auf. Text ist, copy, paste, an nichts gebunden.

Dass die unsichtbare(!) Angabe der Quelle eines Texts also schlicht nicht zuverlässig funktionieren kann, ist sicher auch im Haus des Claude klar. Und wenn das schon nicht geht, sollte Anthropic vielleicht gleich direkt in den Clinch mit der EU gehen: Wir können die Anforderung nicht erfüllen, sagt uns bitte, wie wir das machen sollen – das wäre eine ehrliche Aussage gewesen.

US-Anwender wechseln und treten nochmal nach

Nicht mal regional eingrenzen konnte Anthropic laut seinem Blog die Maßnahme: Das Wasserzeichen haben bald alle Texte aus Claude, weltweit. Vor allem das ruft in den USA bei den Nutzern Unmut hervor. Gizmodo zitiert einen Anwender mit dem saftigen „Bullshit“, viele Nutzer sollen ihre Claude-Abos wegen des Wasserzeichens schon gekündigt haben. Auch Programmierer, so Business Insider, wollen Code, den sie veröffentlichen, nicht als von Claude stammend gekennzeichnet sehen und wechseln zu anderen Anbietern. Tenor vieler US-Berichte: Hat Anthropic auch nicht anders verdient.

Der KI-Wissenschaftler Lance Eliot sieht in seiner Kolumne bei Forbes sogar eine Flut von betrügerischen Tools voraus, die versprechen, das Wasserzeichen zu entfernen. Er schreibt von „Lügen und Betrugsmaschen“, welche die Kennzeichnung hervorrufen könnte. Sollte das eintreffen, so hat Anthropic mit offenbar schwacher Technik und noch schwächerem Marketing dafür ein Paradebeispiel für „Malicious Compliance“ abgeliefert. Der Begriff beschreibt, wie ein Unternehmen Regulierung im Wortsinne bösartig umsetzt, sodass die dadurch provozierten Nebeneffekte die Regulierung an sich in ein schlechtes Licht rücken.