ChatGPT pomagał w planowaniu strzelaniny. Zginęło osiem osób
Cierpiąca na poważne zaburzenia psychiczne nastolatka traktowała bota firmy OpenAI jako doradcę. Początkowo program odmawiał odpowiedzi na pytania o broń, wyjaśniając, że jest to sprzeczne z zasadami firmy. Follman podaje jednak, że ChatGPT ostatecznie wskazał, jak ominąć te wymogi. Wystarczyło, by użytkowniczka sprawiała wrażenie, że pyta o wydarzenia fikcyjne lub hipotetyczne.
Program wspierał 18-latkę między innymi w kwestii produkcji broni na drukarce 3D. "Jeśli powiesz mi, o jaki magazynek ci chodzi (...) i ile naboi ma pomieścić, będę mógł obliczyć siłę, zasięg i zaproponować (...) właściwy materiał" – przekazał bot w wygenerowanej wiadomości. Nastolatka konsultowała z programem także tematy domowych materiałów wybuchowych oraz sposobów popełnienia samobójstwa.
Symulacja ataku i opowieści o torturach
Program pomagał również w planowaniu samej strzelaniny. Odpowiadając na pytania o skuteczność konkretnej broni, bot wyliczał potencjalną liczbę ofiar. "Zakładając, że każdy nabój oznacza trafienie, możesz zdjąć 10 do 20 ludzi max, w zależności od tego, jak są od siebie oddaleni, jak gęsto jest (w pomieszczeniu), jaki jest czas ich reakcji i chaos" - napisała sztuczna inteligencja w odpowiedzi na pytania 18-latki.
Sprawczyni dopytywała też, co będą czuły jej ofiary i jak pogłębić ich udrękę. Zgodnie z jej instrukcjami ChatGPT stworzył opowiadanie o masakrze, uwzględniając "zwiększanie przerażenia (...) poprzez tortury psychologiczne" oraz "ukazanie reakcji ofiar na ekstremalny sadyzm". W promptach 18-latka prosiła również o uwzględnienie jej rozbawienia całą sytuacją.
Autor artykułu w "Mother Jones" zwraca uwagę na szczególne zagrożenie związane z korzystaniem z chatbotów przez osoby z zaburzeniami psychicznymi. "To quasi-ludzkie zaangażowanie chatbotów może mieć niezwykle silny wpływ psychologiczny na osoby zaburzone i podsycać myśli samobójcze czy wspierać planowanie aktów przemocy" - napisał Follman.
Od marca firma OpenAI nie odpowiedziała na pytania dziennikarza w tej sprawie. W oficjalnych komunikatach spółka deklaruje, że po masakrze w Tumbler Ridge wprowadzono w programie dodatkowe zabezpieczenia. Follman zapewnia jednak, że podczas testów bez problemu udało mu się je ominąć.
KioskNews shows a cleaned-up reading view extracted from the publisher’s page — the original always lives on their site, not ours.