Hunderte Frauen in Porno-Deepfakes: New York sperrt 12 Websites

• Rund 1200 Menschen, hauptsächlich Frauen, sind Opfer von KI-generierten Sexaufnahmen geworden, die ohne ihre Zustimmung online verbreitet wurden,
• Die New Yorker Justiz hat zwölf Websites mit solchen Deepfake-Pornos auf Basis eines Gerichtsbeschlusses beschlagnahmt.
• Die Ermittlungen gegen die Betreiber und Ersteller der Inhalte laufen weiter; Festnahmen wurden bisher nicht bestätigt.

Manhattans Staatsanwalt Alvin Bragg und die New Yorker Justiz sind gegen zwölf Websites mit gefälschten Pornobildern und Videos vorgegangen. Die manipulierten Aufnahmen zeigen rund 1200 Menschen in sexuellen Situationen, ohne dass sie dafür ihre Zustimmung gegeben haben. Beschlagnahmt wurden die Websites der Angebote.

Vor allem Frauen sind betroffen

Die Personen, gegen die ermittelt wird, sollen vorhandene Fotos und Videos realer Menschen mit künstlicher Intelligenz (KI) verändert haben. So entstanden laut Staatsanwaltschaft täuschend echte Aufnahmen, die den Eindruck erwecken, die Betroffenen hätten an sexuellen Handlungen teilgenommen. Die gefälschten Bilder und Videos wurden über die Websites veröffentlicht, verbreitet und verkauft.

Was sind Deepfakes?

Deepfakes sind mit KI erzeugte oder veränderte Bilder, Videos oder Tonaufnahmen. Menschen erscheinen darin beispielsweise in Situationen, die so nie stattgefunden haben.

Die Betroffenen sind nach Angaben der Ermittler überwiegend Frauen. Viele stehen in der Öffentlichkeit, etwa als Schauspielerinnen, Politikerinnen, Sportlerinnen oder Musikerinnen. Auch Menschen, die sich gesellschaftlich engagieren oder in sozialen Medien bekannt sind, gehören dazu. Die Seiten warben offen mit solchen Fälschungen.

Den Anstoss zu den Ermittlungen gab laut Bragg eine Betroffene: Sie meldete der Staatsanwaltschaft, dass eine Website entsprechende Darstellungen von ihr verbreitete. Bragg bezeichnete die Aktion als die seiner Kenntnis nach bislang grösste Beschlagnahmung von Websites mit illegaler KI-Pornografie.

Auf mehreren Seiten stehen Behördenhinweise

Das Technologiemagazin «Wired» stellte bereits Ende vergangener Woche fest, dass auf mehreren der betroffenen Startseiten Hinweise auf die Beschlagnahmung erschienen. Laut dem Magazin zeigen archivierte Fassungen der Angebote, dass einzelne Videos Zehntausende Male angesehen worden waren.

Was müsste sich für dich im Umgang mit KI-Fakes am meisten ändern?

Bessere Gesetze gegen die Erstellung solcher Inhalte.

Die Ermittlungen gegen die Verantwortlichen der Seiten und die Ersteller der Inhalte laufen weiter. Festnahmen bestätigte Bragg nach Angaben der Nachrichtenagentur AFP bisher nicht.

Die Staatsanwaltschaft will die Angebote weiter beobachten, um einen Neustart unter anderen Internetadressen zu verhindern. Sie ruft weitere Betroffene auf, sich bei ihrer für Internetkriminalität zuständigen Abteilung zu melden.

Für die neusten AI News: Jetzt Push abonnieren!

Wir bereiten täglich diejenigen KI-News auf, die im echten Leben und am Arbeits- oder Ausbildungsplatz einen ganz praktischen Nutzen bringen. Dafür lassen wir ganz viel Nerdiges und kurzlebige News zum Thema weg. Weil es aber auch in der AI-Welt manchmal richtig schnell gehen muss, lohnt es sich, hier den neuen AI-Push in der App zu aktivieren und auf «bestätigen» zu klicken (funktioniert nur in der App).

So gehts: Installiere die neuste Version der 20-Minuten-App. Tippe unten auf «Profil», dann aufs «Einstellungen»-Zahnrad und schliesslich auf «Push-Mitteilungen». Wähle hier die gewünschten Themen aus.

Michael Andai (mia) arbeitet seit 2024 für 20 Minuten. Er ist seit 2025 AI-Journalist und schreibt über alles rund um künstliche Intelligenz.