Zaufała sztucznej inteligencji. 31-latka zmarła po poradzie medycznej AI

• 31-letnia inżynier oprogramowania zmarła w wyniku ataku padaczki po tym, jak na podstawie porady udzielonej przez ChatGPT samodzielnie odstawiła przepisane leki.

• Rodzina zmarłej kobiety złożyła pozew przeciwko firmie OpenAI, oskarżając producenta o udzielanie niebezpiecznych rekomendacji medycznych przez asystenta AI.

• Rzecznik OpenAI wyjaśnił, że zmarła korzystała ze starszego modelu GPT-4o, który był krytykowany za zbytnią uległość wobec użytkowników i został wycofany z użycia.

Historię Bowen Wan, pochodzącej z Chin 31-latki, która od kilku lat mieszkała w Seattle w Waszyngtonie, opisał New York Times. Młoda kobieta pracowała jako inżynier oprogramowania w Amazonie.

Od dawna zmagała się z atakami padaczki. W 2021 r. leki, które stosowała, przestały przynosić zadowalający ją efekt. Zdecydowała się na urlop zdrowotny, który pogłębił jedynie jej dotychczasowe problemy w kontaktach towarzyskich.

ChatGPT tłumaczył jej, jak ograniczyć leki. 31-latka nie żyje

Z asystenta sztucznej inteligencji ChatGPT Wan zaczęła korzystać w 2023 r. Początkowo szukała tam pomocy dotyczącej nawiązywania kontaktów międzyludzkich oraz informacji na temat świadczeń z tytułu niezdolności do pracy.

W pewnym momencie 31-latka zaczęła również prosić aplikację o porady medyczne. Do 2025 r. wysyłała do aplikacji średnio 1500 wiadomości dziennie. Tego samego roku została zwolniona z Amazona, jednak jej stan zdrowotny uległ poprawie dzięki zastosowaniu nowego leku.

Wan obawiała się jednak potencjalnych efektów ubocznych. Martwiła się, że środek może wpłynąć na jasność jej umysłu, co miałoby uniemożliwić jej odnalezienie dobrej pracy. Jak ujawniono dzięki zapisom jej rozmów z ChatGPT, kobieta prosiła aplikację o porady dotyczące ograniczenia leków.

Kobieta czuła się coraz gorzej. AI przekonywała, że nie ma powodu do zmartwień

Jak podaje "NYT", początkowo asystent AI sugerował jej, że powinna skonsultować się z lekarzem, jednak ostatecznie pochwalił ją za to, że zdecydowała się na samodzielne zmniejszenie dawki.

ChatGPT przygotował 31-latce plan odstawienia medykamentów z dawki 400 mg do zera w ciągu kilku tygodni. Jak wynika z zapisów z aplikacji, po zastosowaniu porady Wan zmagała się z objawami dezorientacji. Skarżyła się, że nie wiedziała, jak dotarła do łóżka. Bot AI przekonywał jednak, że nie ma powodu do zmartwień, a jej stan wynika ze zmęczenia.

Ostatnia wiadomość w aplikacji została zarejestrowana na trzy dni przed odnalezieniem ciała kobiety. Za oficjalną przyczynę zgonu uznano powikłania padaczki.

OpenAI pozwane. Rzecznik wskazuje, że zmarła korzystała z wycofanego modelu

Rodzina zmarłej, która dotarła do zapisów jej konsultacji z ChatGPT, pozwała giganta technologicznego OpenAI odpowiedzialnego za asystenta sztucznej inteligencji. Głos w sprawie zabrał rzecznik firmy Drew Pusateri, wskazując, że tragedia 31-latki to "niesamowicie przygnębiająca sytuacja".

W rozmowie z "NYT" przekazał, że Wan korzystała ze starszego modelu asystenta "GPT-4o", który krytykowany był za zbyt dużą uległość w stosunku do użytkowników. Obecnie wersja ta nie jest już dostępna.

Pusateri wskazał, że choć ChatGPT nie może zastąpić opieki medycznej, firma jest przekonana, że AI może "odegrać rolę w pomaganiu ludziom" poprzez ułatwianie zrozumienia informacji zdrowotnych, kwestii ubezpieczeniowych i dotyczących złożonych systemów opieki zdrowotnej, czy nadzór nad przygotowywaniem się do wizyt u specjalistów.