Atak w Krakowie: Sztuczna inteligencja błędnie „wyostrzyła” zdjęcia ze zdarzenia

Po strzelaninie w Krakowie w sieci pojawiły się zdjęcia i kadry błędnie „wyostrzone” przez sztuczną inteligencję - chodzi m.in. o zdjęcia koszulki sprawcy, rzekome naszywki na mundurze, a nawet elementy otoczenia. Jak się okazuje, AI zamiast odtwarzać szczegóły, zaczęła je wymyślać. NASK w analizie „Wyostrzone nie znaczy prawdziwe” ostrzega przed tym zjawiskiem i wskazuje cztery kroki pomagające rozpoznać przeróbki.

Atak w Krakowie, zdjęcie z 7 listopada, fot. Art Service /PAP

Różne nadruki na koszulce sprawcy. Sztuczna inteligencja dopisała szczegóły

Jednym z przykładów opisanych przez NASK są zdjęcia koszulki sprawcy strzelaniny w Krakowie. Po obróbce z wykorzystaniem sztucznej inteligencji na ubraniu pojawiały się różne nadruki. Na jednej z wersji widoczny był duży biało-zielony wzór geometryczny, na innej – rozbudowany żółto-zielony motyw. Różnice dotyczyły również elementów otoczenia.

Jak podkreśla NASK w analizie „Wyostrzone nie znaczy prawdziwe”, z materiału o niskiej rozdzielczości, rozmytego lub mocno skompresowanego nie da się odzyskać informacji, które nie zostały zarejestrowane na oryginalnym obrazie.

Generatywne systemy AI mogą jedynie oszacować, jakie szczegóły mogły znajdować się w danym miejscu, uzupełniając obraz elementami wyglądającymi wiarygodnie, takimi jak litery, kontury, tekstury czy fragmenty tła – wyjaśniają eksperci.

W przypadku strzelaniny w Krakowie nie chodzi więc wyłącznie o estetykę zdjęć. Wygenerowany przez sztuczną inteligencję znak na ubraniu czy nieistniejący w rzeczywistości emblemat mogą stać się punktem wyjścia do kolejnych spekulacji i dezinformacji.

Sztuczna inteligencja może pokazać to, czego szuka użytkownik

Na wygląd wyostrzonego obrazu wpływają również sugestie osoby korzystającej z narzędzia. Jeśli użytkownik jest przekonany, że na zdjęciu znajduje się konkretny symbol lub napis, model może wygenerować szczegóły odpowiadające jego oczekiwaniom – nawet jeśli oryginalna fotografia nie daje podstaw do takiego wniosku.

Znaczenie mają także dane, na których trenowano dany model. NASK wskazuje przykład szerokiego rzepa na rękawie, który pojawiał się na wielu przerobionych zdjęciach sprawcy. Tego elementu nie było widać na oryginalnym materiale. Sztuczna inteligencja mogła go jednak dodać, ponieważ podczas treningu analizowała między innymi zdjęcia kurtek wojskowych, na których podobne rzepy często występują.

Podobny problem dotyczył naszywek i symboli na odzieży napastnika. Na oryginalnych zdjęciach były widoczne rozmazane emblematy, ale nie można było jednoznacznie ustalić, co przedstawiają. Tymczasem na przerobionych grafikach AI tworzyła konkretne znaki i naszywki, które nie odpowiadały rzeczywistym elementom ubioru, różniąc się między innymi kształtem.

Jedna z takich grafik zdobyła w mediach społecznościowych ponad milion wyświetleń. Sztuczną inteligencję wykorzystywano również do przerabiania zdjęć broni napastnika.

Fałszywa grafika z ukraińską flagą. Dezinformacja wykorzystywała tragedię

NASK zwraca uwagę, że w obiegu pojawiały się nie tylko przerobione fotografie, ale również grafiki wygenerowane w całości przez sztuczną inteligencję. Jedna z nich przedstawiała zamaskowanego mężczyznę z ukraińską flagą na mundurze i godłem Polski w tle. Nieprawdziwą grafikę powiązano szybko ze sprawcą strzelaniny, fałszywie przypisując mu ukraińskie obywatelstwo.

Mimo że pierwotny obraz był fikcyjny, w internecie nadal publikowano jego kolejne wersje i przeróbki.

Eksperci przyjrzeli się również odpowiedziom chatbotów na pytania dotyczące materiałów ze strzelaniny. W jednym z przypadków model AI błędnie rozpoznał przerobiony kadr ze zdarzenia, uznając go za scenę pochodzącą z amerykańskiego filmu.

Jak rozpoznać zdjęcie przerobione przez AI? NASK wskazuje cztery kroki

Instytut zaznacza, że nie każda ingerencja w zdjęcie przy użyciu sztucznej inteligencji ma na celu wprowadzenie odbiorców w błąd. Niektórzy użytkownicy chcą po prostu lepiej zobaczyć szczegóły lub z ciekawości sprawdzają możliwości nowych narzędzi. Problem pojawia się wtedy, gdy wygenerowane elementy zaczynają być przedstawiane jako fakty.

NASK wskazuje cztery podstawowe zasady, które pomagają zweryfikować autentyczność materiałów:

1. Sprawdź źródło zdjęcia lub nagrania. Poszukaj najwcześniejszej dostępnej publikacji i ustal, czy materiał pochodzi z wiarygodnego źródła.
2. Porównaj różne wersje materiału. Zwróć uwagę, czy w kolejnych publikacjach nie pojawiają się nowe napisy, symbole, twarze, elementy tła albo zmiany oświetlenia. Szczególnie podejrzane powinny być detale, których nie dało się dostrzec na oryginalnym obrazie.
3. Oddziel to, co widzisz, od tego, co interpretujesz. Rozmazany kształt nie jest dowodem na obecność konkretnego symbolu, a nieczytelny napis nie pozwala ustalić jego treści.
4. Nie udostępniaj dalej przerobionych materiałów. Powielanie grafik bez sprawdzenia ich pochodzenia może przyczyniać się do rozpowszechniania fałszywych informacji.

„W sytuacjach kryzysowych ostrożność i rzetelna weryfikacja informacji są często ważniejsze niż szybkość ich publikowania” – podsumował NASK.

Strzelanina w Krakowie. Tragiczny bilans ataku

Do ataku doszło w sobotę na Rynku Głównym w Krakowie. 24-latek wjechał samochodem na płytę rynku, a następnie otworzył ogień z broni automatycznej do przypadkowych przechodniów.

W wyniku zdarzenia zginęło sześć osób, a 15 zostało rannych, w tym dwóch policjantów. Siódmą ofiarą śmiertelną był napastnik, który został postrzelony podczas wymiany ognia z funkcjonariuszami. W mieszkaniu rodziny sprawcy w Ostrowcu Świętokrzyskim policjanci znaleźli ciała trzech osób – rodziców i siostry 24-latka.