KI-Fälschungen – Nach Anschlag in Krakau: Welle der Desinformation im Netz

• Nach dem Anschlag in Krakau kursieren im Internet zahlreiche Spekulationen zum Täter. Auch zahlreiche mit KI manipulierte Bilder werden geteilt.
• Das Motiv des Täters ist laut Staatsanwaltschaft noch ungeklärt.
• Am Samstag erschoss der Angreifer auf dem Marktplatz von Krakau aus seinem Auto sechs Menschen und verletzte 15 weitere.

«Nach dem Terroranschlag in Krakau stehen wir vor einer Welle der Desinformation», schrieb Polens Digitalminister Krzysztof Gawkowski am Sonntagabend auf X. Sein Ministerium und das staatliche Forschungszentrum «Nask» würden die Lage im Internet überwachen. Über 2000 Social-Media-Konten seien den Plattformen wegen der Verbreitung von Falschinformationen gemeldet worden.

Laut Digitalministerium waren darunter Bots, die Inhalte unter anderem auf Polnisch, Englisch, Französisch und Niederländisch verbreiteten. Auch mehrere Dutzend Konten mit russischsprachigen Inhalten oder Russlandbezug seien identifiziert worden.

Desinformation bis zu 200 Millionen Mal aufgerufen

Zu den Falschbehauptungen gehörte, der Anschlag sei von der polnischen Regierung geplant worden und die EU habe sich beteiligt. Diese Desinformation habe bis zu 200 Millionen Aufrufe erreicht, so das Digitalministerium. Ausserdem sei behauptet worden, der Täter sei ein polnischer Soldat gewesen.

Neben Desinformation fluteten auch mit KI manipulierte Bilder die sozialen Medien. Die polnische Faktencheck-Plattform Demagog warnt vor solchen Aufnahmen: Internetnutzer hätten etwa versucht, verschwommene Bilder des Täters mit KI zu schärfen und so sein Gesicht zu rekonstruieren.

Fehlende Details in Bildern kann KI aber nicht hervorbringen – sie erfindet sie. Deshalb sind solche KI-geschärften Bilder gefährlich. Demagog prüfte zahlreiche solcher Bilder und entdeckte das KI-Wasserzeichen SynthID, das auf KI-Überarbeitungen hinweist.

Es kursieren auch Bilder, welche aus der Vergangenheit des Täters stammen sollen. Ein Bild zeigt eine Person mit Maske, Militärausrüstung und Sturmgewehr in einem Wohnzimmer. Auf der Brust prangt eine ukrainische Flagge. Dieses Bild ist ebenfalls mit KI erstellt worden, wie die Faktencheck-Plattform feststellte.

Auch der polnische Innenminister Marcin Kierwinski wurde zum Ziel von KI-gestützter Desinformation. In den sozialen Medien kursierte ein Bild, das den Innenminister beim Händeschütteln mit dem Angreifer bei einer Veranstaltung zeigen soll.

«Das ist kein Foto, sondern eine gefälschte Fotomontage, die mit KI generiert wurde», schrieb die Sprecherin des Innenministeriums, Karolina Gałecka, auf X. Das Bild werde der Justiz gemeldet.

Motiv wird noch ermittelt

Kierwinski hatte bereits am Samstag gesagt, alles deute darauf hin, dass der Angreifer «sehr, sehr radikale Ansichten» vertreten habe und «von rechtsextremen Ideologien fasziniert» gewesen sei. Nach diesen Äusserungen wurde aus politisch rechten Kreisen Kritik am Innenminister laut, weil er keine konkreten Belege vorlegte.

An einer Medienkonferenz am Montag sagten die Staatsanwälte, es gebe keine Hinweise darauf, dass der Verdächtige einer bestimmten politischen Richtung angehöre. «Es ist noch viel zu früh, um etwas zu den Motiven zu sagen», sagte ein Sprecher der Generalstaatsanwaltschaft.

Die Sprecherin des Innenministeriums sagte, dass sich viele verschiedene Embleme auf der Kleidung des Täters befunden hätten. Diese seien derzeit Gegenstand der Untersuchung. Derweil warnte die Regierung vor Desinformation im Internet.