Neue KI soll sogar Deepfakes erkennen, die andere Tools täuschen

• Deepfakes werden immer realistischer und sind für Menschen und bisherige Detektoren schwer zu erkennen.
• Das neue KI-Tool ExposeAnyone sucht nicht nur nach Auffälligkeiten, sondern prüft, ob Mimik und Stimme einer Person zusammenpassen.
• In Tests erkennt das Tool laut den Forschenden über 95 Prozent der Deepfakes, ist aber noch nicht verfügbar.

Politiker wie Wolodomir Selenksi, Hollywood-Stars, Schweizer Influencerinnen, aber auch Privatpersonen: Alle wurden schon Opfer von Deepfakes – von KI-generierten Bildern, Videos und Audios, die echt wirken. Sie zu entlarven, ist schwierig. Zumindest bis jetzt. Ein neues KI-Tool von Forschenden aus Japan und Deutschland soll das ändern. Der Name verspricht schon einmal viel. Es heisst: ExposeAnyone – Jeden entlarven.

Warum braucht es ein KI-Tool, um KI-Fakes zu erkennen?

Deepfakes sind problematisch. Denn sie können reale Personen Dinge sagen oder tun lassen, die nie passiert sind. Sie können zum Beispiel den Ruf ruinieren, den gedeepfakten Menschen Schaden zufügen und ermöglichen neue Formen von Betrug.

Mehr zu diesem Thema

Deepfakes als solche zu erkennen und zu entlarven, wird immer schwieriger. Denn die Technik schreitet voran. Nicht nur Menschen, auch spezialisierte Deepfake-Detektoren versagen zunehmend.

Warum versagen die Tools?

Die bisherigen KI-Systeme, die Fälschungen erkennen sollen, suchen nach typischen Bildfehlern, etwa unnatürlichen Pixelmustern oder kleinen Unstimmigkeiten im Gesicht. Die Krux: Die Tools sind vor allem bei jenen Deepfakes zuverlässig, deren Merkmale sie aus dem Training bereits kennen. Taucht eine neue Art von Fälschung auf, sinkt die Trefferquote deutlich. Fakes, deren Merkmale nicht im Training vorkamen, erkennen sie dagegen eher selten.

Mehr zu diesem Thema

Selbstlernende Modelle sollen dieses Problem lösen, können aber oft nicht gut genug unterscheiden, was ein echtes Video ausmacht, zitiert «Bild der Wissenschaft» Kaede Shiohara, Assistenzprofessor am Computer Vision and Media Lab an der University of Tokyo. Er ist einer der Männer hinter dem Fake-Video-Detektor ExposeAnyone.

Was hilft dir am ehesten, um echte Inhalte von KI-Fakes zu unterscheiden?

Mein Bauchgefühl und ein kritischer Blick auf die Quelle.

Was ist das Besondere an ExposeAnyone?

Anders als die meisten bisherigen Modelle sucht das neue Tool nicht in erster Linie nach Fehlern im Bild, sondern es prüft primär, ob die Gesichtsausdrücke einer Person zu ihrer Stimme passen. «Wir fokussieren uns auf die Diskrepanzen, die bei echten und gefakten sprechenden Subjekten auftreten», erklären die Forschenden.

So funktioniert ExposeAnyone

Die Grundlage bildet ein Modell, das mit über 450 Stunden realem Videomaterial trainiert wurde. So lernte die KI, wie sich ein Gesicht beim Sprechen bewegt. Dafür berücksichtigt es 53 Merkmale der Mimik. Anschliessend kann das Modell aus einer Audiospur ableiten, wie sich das Gesicht der sprechenden Person voraussichtlich bewegt. Im zweiten Schritt wird ExposeAnyone auf eine konkrete Person trainiert. Dafür reichen laut den Forschenden rund 60 Minuten echtes Videomaterial. Weichen Stimme und Gesichtsausdruck auffällig voneinander ab, könnte es sich um ein Deepfake handeln.

Ist das Zukunftsmusik oder klappt das schon?

Das Tool ist noch nicht verfügbar. Das entsprechende Paper ist bisher nur als Preprint-Studie (siehe Box)Arxiv.org erschienen.

Preprint? So läuft es in der Wissenschaft

Um neue Erkenntnisse unters Volk zu bringen, publizieren Forschende ihre Studien in Fachzeitschriften (Journals). Dafür arbeiten sie zunächst ein Manuskript aus, das sie der Fachzeitschrift vorlegen. Nimmt diese den Entwurf an, findet die Begutachtung, das sogenannte Peer-Review, statt. Das heisst: In der Regel anonyme und unabhängige Fachkollegen begutachten die Arbeit, kritisieren und machen Anmerkungen. Dies dient der Qualitätssicherung. Dann wird die Arbeit an die Autoren zurückgesandt, welche sie überarbeiten. Dieses Vorgehen kann sich einige Male wiederholen. Abschliessend wird die Arbeit im Journal publiziert. Bevor dieser Prozess abgeschlossen ist, werden Studien in sogenannten Preprints veröffentlicht.

Laut dem Team um Shiohara funktioniert ExposeAnyone sehr zuverlässig. In mehreren Tests soll das KI-Modell eine durchschnittliche Treffergenauigkeit von mehr als 95 Prozent und erkannte selbst Deepfakes, an denen andere Detektoren häufig scheitern. «Unser Ansatz zeigt damit Leistungen, die die bisherigen State-of-the-Art-Methoden signifikant übertreffen», so die Forschenden. Selbst mit Sora 2 generierte KI-Videos, die als schwer nachweisbar gelten, erkannte das Tool. «Während frühere Deepfake-Detektoren auf diesem Datensatz Ergebnisse erzielten, die kaum besser als ein Münzwurf waren, identifizierte die neue Methode dennoch fast 95 Prozent der manipulierten Videos korrekt», heisst es in einer Mitteilung des Max-Planck-Instituts für Informatik.

Ob, wann und in welchem Ausmass ExposeAnyone irgendwann zum Einsatz kommt, ist noch offen. Denn das Training ist deutlich umfangreicher als das bisheriger Modelle und braucht leistungsstarke Hardware.

Abonniere den Wissen-Push!

Abonniere in der 20-Minuten-App die Benachrichtigungen des Wissen-Kanals. Du wirst über bahnbrechende Erkenntnisse und Entdeckungen aus der Forschung, Erklärungen zu aktuellen Ereignissen und kuriose Nachrichten aus der weiten Welt der Wissenschaft informiert. Auch erhältst du Antworten auf Alltagsfragen und Tipps für ein besseres Leben.

So gehts: Installiere die neuste Version der 20-Minuten-App. Tippe unten auf «Profil», dann aufs «Einstellungen»-Zahnrad und schliesslich auf «Push-Benachrichtigungen». Wähle hier die gewünschten Themen aus.

Fee Anabelle Riebeling (fee) arbeitet seit 2014 für 20 Minuten. Sie ist stv. Leiterin Wissen/AI, Data und Leiterin des Fachgremiums Faktencheck & Verifikation.