AI może wygenerować fałszywe treści w kilka minut. Eksperci ostrzegają przed dezinformacją

— To, co wcześniej wymagało znacznych nakładów pracy, czasu i środków finansowych, dziś może zostać przygotowane w ciągu kilku minut — tłumaczy dr Ilona Dąbrowska z Uniwersytetu Marii Curie-Skłodowskiej w Lublinie.

• Dlaczego seniorom trudniej odróżnić w sieci prawdę od fałszu?

Zagrożenie nie ogranicza się jednak wyłącznie do treści tworzonych przez AI. — Równie skuteczne mogą być manipulacje polegające na selektywnym przedstawianiu faktów, pomijaniu istotnego kontekstu, wykorzystywaniu emocjonalnego języka czy wielokrotnym powielaniu określonych narracji — zauważa ekspertka.

Czytaj nas częściej w Google

Dodaj w Google

Grupą szczególnie mocno narażoną na dezinformację są seniorzy, którzy często wierzą, że to, co widzą na ekranie, jest prawdziwe.

Dezinformacja szerzy się m.in. poprzez:

• rozpowszechnianie fałszywych informacji;
• manipulowanie kontekstem: faktami, wypowiedziami, zdjęciami, filmami;
• powoływanie się na fałszywe autorytety;
• rozpowszechnianie teorii spiskowych;
• deepfake, czyli fałszywe obrazy, filmy lub nagrania dźwiękowe stworzone przy użyciu sztucznej inteligencji tak, aby wyglądały lub brzmiały jak prawdziwe.

Dalszy ciąg artykułu pod materiałem wideo

Narzędzia sztucznej inteligencji w ostatnich latach stały się tak powszechne, że większość z nas może z nich korzystać nawet na smartfonie. O ile doskonale zdają sobie z tego sprawę młodsze pokolenia, to już nie każdy senior wie, jakie możliwości kryją się w jego własnym telefonie.

Działanie najpopularniejszych narzędzi, jak ChatGPT i Gemini, jest wyjątkowo proste. Po ich uruchomieniu otwiera się okno rozmowy, w którym wpisujemy prompt, czyli instrukcję, która tłumaczy AI, co ma dla nas zrobić. Im bardziej szczegółowy prompt, tym lepszy rezultat.

• Osiem stanów USA pozywa OpenAI. Chodzi o krzywdę dzieci

Aplikacje błyskawicznie przygotują dla nas to, czego potrzebujemy: zarówno teksty biznesowe czy zawodowe, jak i odpowiedź na prywatny e-mail. Radzą sobie z tłumaczeniem tekstów, przetwarzaniem dokumentów, generowaniem obrazów czy przeróbką zdjęć.

— Kiedy na prowadzonych przez nas warsztatach dla seniorów pokazujemy im, jak łatwo dzięki narzędziom AI wygenerować jakiś dźwięk czy obraz, to ich uczestnicy są naprawdę bardzo, bardzo zszokowani — opowiada Eliza Żurawska, koordynatorka projektów społecznych w Demagogu.

W trakcie warsztatów prowadzonych przez stowarzyszenie uczestnicy sami generują treści AI. Przykładowym materiałem, który uczestnicy oglądają w trakcie warsztatów, jest m.in. wideo wygenerowane przez narzędzie Sora 2 z OpenAI.

— Większość seniorów nawet nie zdaje sobie sprawy, że takie programy istnieją. Szczególnie zaskakuje ich, jak prosta i szybka jest obsługa tych narzędzi, jak szybko można wygenerować deepfake'a — dodaje.

Zrozumienie, jak łatwo wygenerować dziś daną treść, jest pierwszym krokiem do zrozumienia, dlaczego tak ważna jest weryfikacja każdej treści, na którą natrafiamy online.

Zasadę ograniczonego zaufania powinniśmy stosować szczególnie w przypadku treści, które napotykamy w mediach społecznościowych. W przypadku seniorów szczególnie istotne są tu Facebook i WhatsApp.

Eksperci podkreślają, że dziś sam obraz, nagranie czy duża liczba udostępnień nie stanowią wystarczającego potwierdzenia autentyczności przekazu.

Platformy mediów społecznościowych w dużym stopniu korzystają też z tego, że ludzie znacznie chętniej krytykują niż chwalą. Istnieje nawet odnoszący się do tego fenomenu termin "rage bait", czyli treść, która celowo ma wywołać gniew i inne silne negatywne emocje, sprawiające, że użytkownicy mocniej angażują się w odbiór treści.

Nie jest tajemnicą, że większa liczba reakcji i komentarzy bezpośrednio przekłada się na zyski konkretnego twórcy czy platformy, dlatego materiały, które wywołują silne wzburzenie, mają szansę nieść się w sieci bardzo szeroko.

— Kluczowe znaczenie powinno mieć zawsze sprawdzenie źródła informacji oraz ustalenie, czy jej prawdziwość potwierdzają również inne, niezależne i wiarygodne źródła — podkreśla Ilona Dąbrowska.

Bardzo częstym narzędziem, które służy rozpowszechnianiu dezinformacji, są krótkie filmiki, memy czy inne chwytliwe obrazki z krzykliwymi nagłówkami. Jak zauważa Olga Wałkuska z Ośrodka Analizy Dezinformacji NASK, takie publikacje wzbudzają emocje i nie wymagają analizy.

— Często jakiś obrazek kompletnie wyrwany z kontekstu, z bardzo alarmującym podpisem, ma sprawić, że człowiek nawet się nie zastanowi, czy to, co tam jest napisane, ma jakikolwiek sens. Uruchamia w odbiorcy jedynie potrzebę automatycznego udostępniania go dalej, bo to jest dla niego ciekawe, zgadza się z tym — tłumaczy ekspertka.

• Facebook dołącza do X. Koniec z ograniczaniem mowy nienawiści. Dezinformacji będzie jeszcze więcej, bo się opłaca [KOMENTARZ]

— Jest też tak, że jak się z czymś zgadzamy, to nam się nie bardzo uśmiecha sprawdzać. To nawet nie musi być świadome — dodaje. Mało kto zadaje więc sobie trud, aby sprawdzić np., czy cytat przypisywany popularnej polityczce w memie to faktycznie jej słowa.

Tymczasem badania wskazują, że sama powtarzalność danego obrazu może zwiększać jego postrzeganą wiarygodność. — Jeżeli ten sam materiał audiowizualny pojawia się wielokrotnie, na różnych platformach i w różnych kontekstach, odbiorca może nabierać przekonania, że przedstawia on autentyczne wydarzenie — tłumaczy Ilona Dąbrowska.

Ilona Dąbrowska zwraca uwagę, że obecne możliwości technologiczne AI sprawiają, że w bardzo krótkim czasie możemy przygotować cały zestaw wzajemnie uzupełniających się materiałów dezinformacyjnych — teksty, fotografie, nagrania dźwiękowe czy filmy.

— To, co wcześniej wymagało znacznych nakładów pracy, czasu i środków finansowych, dziś może zostać przygotowane w ciągu kilku minut — tłumaczy Dąbrowska, dodając, że trudno się dziwić, że z technologii AI korzystają podmioty zainteresowane szerzeniem dezinformacji.

• "Jak kasyno". Amerykański gigant alarmuje w sprawie AI

— Sztuczna inteligencja pozwala znacząco obniżyć koszty manipulacji, zwiększyć skalę produkcji fałszywych przekazów i dostosowywać je do różnych grup odbiorców — dodaje.

Eliza Żurawska zwraca z kolei uwagę, że sztuczna inteligencja rozwija się w błyskawicznym tempie, a wygenerowane przez AI zdjęcia wyglądają coraz bardziej wiarygodnie.

— Wcześniej postaci były np. mniej proporcjonalne, miały nienaturalnie długie ręce czy za duże buty. Teraz widzimy, że to jednak jest coraz bardziej rzeczywiste i że naprawdę trzeba mocno się skupić czy też właśnie wiedzieć, gdzie zauważyć błąd — dodaje.

Ilona Dąbrowska zwraca uwagę na jeszcze inne zagrożenie związane z upowszechnianiem treści generowanych przez AI. Chodzi o stopniowe przyzwyczajanie się do stałej obecności sztucznie tworzonych materiałów.

— Kadry, które jeszcze niedawno wydawały się niezwykłe, zaskakujące czy wręcz niemożliwe, stają się zwyczajnym elementem współczesnego otoczenia medialnego — tłumaczy Dąbrowska.

• Sam Altman o rozwoju AI: świat powinien pogodzić się z tym, że zdarzają się złe rzeczy

— W konsekwencji może dochodzić do stopniowego osłabienia naszej czujności wobec tego rodzaju przekazów. Istnieje ryzyko, że coraz rzadziej będziemy zastanawiać się, czy przedstawiona sytuacja rzeczywiście miała miejsce, czy też została w całości wygenerowana za pomocą sztucznej inteligencji — dodaje.

— Wydaje mi się, że powszechność grafik wygenerowanych przez AI sprawia, że powszechna obecność deepfake'ów zaczyna być dla nas normą — uważa Żurawska.

— Zaczynamy przechodzić obojętnie wobec tych nieprawdziwych treści, z góry zakładamy, że coś jest fejkiem, a przez to może w innym miejscu, kiedy będziemy mieli do czynienia z ważną istotną informacją, również możemy ją zignorować — zauważa.