Cybercrime-Zentrum Karlsruhe: Zunahme KI-generierter Missbrauchsdarstellungen

Im Kampf gegen Darstellungen von Kindesmissbrauch stellt Material, das mit Künstlicher Intelligenz (KI) erstellt wurde, Fahnder vor neue Herausforderungen. „Bislang gibt es kaum Rechtsprechung zu dem Thema“, sagte Thorsten Nees, Erster Staatsanwalt am Cybercrime-Zentrum (CCZ) Baden-Württemberg bei der Generalstaatsanwaltschaft Karlsruhe. Das Zentrum bearbeitet eine zweistellige Zahl an Fällen und erwirkte eine der ersten Verurteilungen bundesweit in dem Bereich.

Auch fiktiver kinderpornografischer Inhalt ist Kinderpornografie im Sinne des Strafgesetzbuchs. Es komme aber darauf an, ob das Material aus Sicht eines durchschnittlichen Betrachters auf den ersten Blick klar als künstlich zu erkennen ist, erklärte Oberstaatsanwalt Mirko Heim vom CCZ und nannte Mangas als Beispiel. Dann drohe nur für das Verbreiten und Zugänglichmachen eine Strafe. Ist das nicht mehr so leicht auszumachen, können auch der Besitz und die sogenannte Besitzverschaffung mit mehreren Jahren Freiheitsstrafe geahndet werden. Das Problem dabei: „Was wirklichkeitsnah ist, ist eine Auslegungsfrage“, erklärte Nees. Das berge immer rechtliche Unsicherheiten.

Ein Forschungsteam der Universität Passau kam bei einer Analyse zu dem Schluss, dass unter Umständen auch Betreiber von KI-Tools strafrechtlich verfolgt werden könnten – etwa wegen Beihilfe.

Täter nutzen frei verfügbare Tools

Die Fälle KI-generierter Kinder- und Jugendpornografie nehmen deutlich zu, sagten die Experten. „Dies liegt auch daran, dass es zwischenzeitlich keiner besonderen IT-Expertise mehr bedarf, um mittels frei zugänglicher KI-Software solche Inhalte zu erstellen“, erklärte Nees. Die Täter verwendeten regelmäßig frei im Internet verfügbare KI-Tools. Konkrete Zahlen nannte das CCZ nicht.

Den Tätern geht es nach Erkenntnissen der Ermittler vor allem darum, ihr sexuelles Interesse zu befriedigen. Manchmal würden solche Inhalte dazu genutzt, dem Betroffenen beziehungsweise Abgebildeten zu schaden.

Um zu erkennen, dass ein Bild künstlich erzeugt wurde, helfen insbesondere Eingabebefehle (Prompts) und Herkunftsnachweise. Generell werde das aber immer schwerer, räumte Nees ein. Werden Inhalte anonym, verschlüsselt oder im Ausland gehostet, könne dies die Identifizierung des Täters erschweren.

Weshalb ist die Unterscheidung KI oder nicht bedeutsam?

Ob es sich um reale oder KI-generierte Darstellungen von Kindesmissbrauch handelt, ist den Angaben zufolge nicht nur für das Vorgehen der Ermittlungsbehörden oder hinsichtlich der Strafbarkeit wichtig. Im Rahmen der Strafzumessung könne es auch eine Rolle spielen, dass kein real existentes Kind missbraucht wurde.

Allerdings betonte Heim etwa, dass sich Kinder, deren Konterfei genutzt wurde, ähnlich einem realen Missbrauchsopfer missbraucht und beschämt fühlten. Zum anderen bestehe die Gefahr, dass ein Täter mit der Zeit mehr wolle und entweder zu realer Kinderpornografie wechsle oder sich im echten Leben an einem Kind vergreife. „Jedes KI-generierte Bild kann die Hemmschwelle senken“, sagte Heim.

Ähnlich hatte sich auch die Bundesbeauftragte gegen sexuellen Missbrauch von Kindern und Jugendlichen, Kerstin Claus, Anfang des Jahres geäußert: „Solche Aufnahmen sind äußerst problematisch, weil sie sexualisierte Gewalt nicht nur abbilden, sondern reproduzieren und normalisieren.“