Gratis-Tool entlarvt jetzt KI-Bilder – mit einem Haken

Blick macht den Test

Gratis-Tool entlarvt jetzt KI-Bilder – mit einem Haken

Gratis und innert Sekunden prüft Google neu, ob Bilder, Videos oder Tonaufnahmen von einer KI stammen. Im Test erkennt es Fakes von Google und ChatGPT ziemlich zuverlässig – bis das Handy ins Spiel kommt.

Publiziert: vor 15 Minuten

• Googles KI-Detektor SynthID steht neu allen offen, ein Login ist nötig
• Erkannt werden nur KI-Fakes von Google, OpenAI, Nvidia und Kakao
• Doch: Vom Bildschirm abfotografiert, rutscht ein KI-Fake im Test durch

Wunderschöne Herbstfarben und kein Mensch weit und breit. Durch den Feldstecher zähle ich 40 Gämsen und sechs Steinböcke. Kurz unter dem Lavtinasattel oberhalb des Weisstannentals mache ich ein Selfie. Die Steinböcke sind nicht drauf, sie halten Abstand.

Später hole ich mir mit Googles KI-Bildgenerator Nano Banana Pro einen Steinbock ins Bild. Er lehnt fast schon an meiner Schulter und spiegelt sich in meiner Sonnenbrille. Erkennt Google die eigene Fälschung?

Die KI-Fakes im Test

Neu kann jede und jeder auf synthid.com Dateien auf KI prüfen lassen. Bisher war Googles KI-Detektor nur Journalisten und Forscherinnen vorbehalten. Nötig ist dafür lediglich ein Login mit einem Google-, Apple- oder ChatGPT-Konto.

Ich teste zwei KI-Montagen, eine von Googles Bildgenerator Nano Banana Pro, eine von ChatGPT. Beide fliegen auf, aber nicht gleich ausführlich. Beim ChatGPT-Bild meldet das SynthID-Tool bloss, es habe das Wasserzeichen gefunden und das Bild sei mit OpenAI «erstellt oder bearbeitet» worden. Beim Bild von Google liefert es mehr und gibt zudem eine Einschätzung (KI mit «sehr hoher Sicherheit») und eine Analyse, die farbig markiert, wo im Bild das Wasserzeichen steckt. Mein unbearbeitetes Original-Selfie besteht den Test, das Tool findet kein Wasserzeichen.

Ich mache einen Screenshot vom KI-Bild. Das ändert an den Resultaten nichts. Doch dann fotografiere ich den Bildschirm mit dem Handy ab. Und schon sind beide KI-Steinböcke für das Tool unverdächtig. Das überrascht. Blick hatte schon vorher Zugang zur Vorabversion des Tools, und bei einem früheren Test konnte SynthID mit einem abfotografierten KI-Bild nicht ausgetrickst werden.

Der blinde Fleck

Das ist nicht die einzige Lücke. Erkannt wird von SynthID nur, was von Google selbst oder von Partnern stammt: OpenAI, Nvidia, Kakao und bald auch Apple. Darauf weist Google bei negativen Resultaten selbst hin. Je mehr Anbieter mitmachen, desto mehr taugt das Tool. Meta und Microsoft setzen allerdings auf eigene Wasserzeichen, einen Detektor für alles gibt es nicht. Bilder von Grok, Meta, Microsoft und vielen frei verfügbaren KI-Modellen fallen bei der Erkennung durch. Das US-Techportal gizmodo.com liess Grok zum Test ein Fake von Donald Trump mit McDonald's-Maskottchen Grimace erstellen. SynthID hielt den Einsatz von KI für «unwahrscheinlich». Texte prüft das Tool gar nicht.

Hinter dem Erkennungs-Tool steckt ein Wasserzeichen, das Google seit 2023 in KI-Inhalte einbaut. Es ist unsichtbar fürs Auge, aber lesbar für Maschinen. Über 180 Milliarden Bilder und Videos wurden laut Google damit schon gekennzeichnet. Filter und Komprimierung übersteht es, mit genug Bearbeitung lässt es sich aber aushebeln, räumt der Konzern ein. In meinem Test reichte dafür schon ein Handyfoto.

So prüfst du selbst

Die Prüfung mit SynthID steckt auch in der Google-Suche, der Gemini-App und im Browser Chrome. Laut Google wird die auf synthid.com hochgeladene Datei gelöscht, sobald das Resultat da ist. Eine digitale Signatur bleibt aber 24 Stunden mit dem Konto verknüpft.

Laut Google wird SynthID bereits über eine Million Mal pro Tag genutzt. Bei Videos und Tonaufnahmen zeigt das Erkennungs-Tool, welche Abschnitte mit KI bearbeitet oder erzeugt wurden. Und so geht es: Lade die zu prüfenden Dateien in möglichst hoher Qualität hoch. Schlägt das Tool an, ist das ein starkes Indiz. Schweigt es, heisst das gar nichts.