ChatGPT markiert jetzt alle Texte unsichtbar

Mit speziellem Wasserzeichen

ChatGPT markiert jetzt alle Texte unsichtbar

Mit ChatGPT zu schummeln wird schwieriger. OpenAI versteckt in seinen Texten künftig ein Muster, das man nicht sehen, aber messen kann. Das Ganze hat allerdings einen Haken.

Publiziert: vor 27 Minuten

• OpenAI markiert Texte von ChatGPT und Codex in der EU unsichtbar
• Auslöser ist das KI-Gesetz der EU, gültig seit dem 2. August 2026
• Konkurrent Anthropic markiert Texte von Claude schon weltweit

Ein Text von ChatGPT sieht aus wie jeder andere. Er enthält keine speziellen Symbole und keinerlei versteckte Zeichen. Trotzdem soll eine Software bald erkennen können, dass er von einer Maschine stammt.

Die Firma OpenAI hat am Montagabend angekündigt, Texte von ChatGPT und Codex, dem Programmierwerkzeug des Unternehmens, künftig mit einem unsichtbaren Wasserzeichen zu versehen. Es wird in den kommenden Wochen für alle Nutzerinnen und Nutzer eingeführt, allerdings nur in der EU.

So funktioniert das Wasserzeichen

Chatbots wie ChatGPT beruhen auf Sprachmodellen. Diese haben aus riesigen Textmengen gelernt, welches Wort wahrscheinlich auf ein anderes folgt. Ihre Antworten bauen sie Wort für Wort zusammen. Oft passen dabei mehrere Wörter ähnlich gut. Nach «Der Zug hatte über 20 Minuten Verspätung, die Pendler waren …» sind «genervt» und «verärgert» wohl etwa gleich wahrscheinlich, «begeistert» aber kaum. Welches Wort es wird, entscheidet normalerweise der Zufall, wie bei einem Würfelwurf.

Bei dem unsichtbaren Wasserzeichen ist dieser Würfel quasi gezinkt. Ein geheimer Schlüssel legt fest, welches Wort an welcher Stelle bevorzugt wird. Nur ein einzelnes «genervt» verrät dabei nichts. Über Hunderte Wörter hinweg wählt der Text aber auffällig oft die bevorzugten Varianten. Ein spezielles Prüfprogramm mit dem Schlüssel erkennt dann dieses Muster.

Das Verfahren nennt sich Textgrain, hat allerdings Lücken. Das räumt OpenAI selbst ein. Wer jedes zehnte Wort durch ein Synonym ersetzt, drückt die Trefferquote von 92 auf 66 Prozent. Wer jedes vierte Wort ersetzt, gar auf unter 20 Prozent. Zudem rutschen auch kurze Texte, Matheantworten und Übersetzungen durch.

Warum macht OpenAI das?

Freiwillig macht OpenAI diesen Schritt nicht. Seit dem 2. August gelten in der EU die Transparenzregeln des KI-Gesetzes (EU AI Act). Anbieter müssen KI-Inhalte so markieren, dass andere Systeme sie erkennen. Ob OpenAI Texte aus der Schweiz markiert, ist unklar. Eine Anfrage bei OpenAI ist hängig. Für Entwicklerinnen und Entwickler, die OpenAIs KI-Modelle über die Programmierschnittstelle (API) nutzen, bleibt es freiwillig.

Anthropic ist schon weiter

Anthropic hat Anfang August angekündigt, alle Claude-Modelle mit einem Wasserzeichen zu versehen. Die ersten Modelle mit Wasserzeichen sind bereits erschienen. Ältere Modelle sollen in den kommenden Monaten nachgerüstet werden. Das gilt weltweit, also auch in der Schweiz. Der Grund ist dasselbe EU-Gesetz.

Trotz des neuen Wasserzeichens kann jetzt nicht jeder allerlei Texte auf KI-Inhalte prüfen. Denn OpenAI gibt das Prüfprogramm vorerst nur ausgewählten Gruppen frei. Für die breite Öffentlichkeit sei es noch zu fehleranfällig, heisst es. Bei Anthropic können etwa Behörden, Medien und Faktenchecker Zugang beantragen. Öffentliche KI-Checker im Netz kennen die geheimen Schlüssel nicht. Einen gemeinsamen Standard gibt es ebenfalls nicht, OpenAIs Programm erkennt nur OpenAI-Texte. Ein verdächtig glattes Mail im Posteingang lässt sich nun also nicht einfach durchleuchten. Und fehlt das Wasserzeichen, beweist das zudem nicht, dass ein Mensch es geschrieben hat.