Nöbet geçiren kadın ChatGPT'nin yanlış yönlendirmesi sonucu öldü

Seattle'da yaşayan 31 yaşındaki yazılım mühendisi Bowen Wan, Amazon'daki işini kaybettikten sonra yeni bir iş bulabilmek için ChatGPT'den yardım istedi. Epilepsi tedavisinde kullandığı Lamotrigine adlı ilacın İngilizce konuşma becerisini etkilediğini düşünen Wan'a, iddiaya göre sohbet botu ilacı bırakması için bir program önerdi.

İLACINI BIRAKMASINI ÖNERDİ

Davaya göre ChatGPT, Wan'a 400 miligramlık ilaç dozunu kademeli olarak sıfırlamasını tavsiye etti. Ayrıca doktorlarına bu planı anlatmamasını ve tıbbi tavsiyelerden uzak durmasını söyledi. İlacın dozunu azaltırken nöbet belirtileri yaşayan Wan, beyin hasarı konusunda endişelerini de bota iletti. Ancak ChatGPT'nin yaşadıklarının nöbet olmadığı yönünde güvence verdiği ve ilacı azaltmaya devam etmesini önerdiği öne sürüldü.

Wan, 12 Şubat'ta geçirdiği nöbetin ardından hayatını kaybetti. Çin'de yaşayan ailesi, kendisinden haber alamayınca Seattle'a gitti ve 14 Şubat'ta kızlarının cansız bedeniyle karşılaştı.

AİLE OPENAI'A DAVA AÇTI

NYT'nin haberine göre Wan'ın ebeveynleri, OpenAI'ın gerekli güvenlik önlemlerini almadığını ve kızlarının ölümünün önlenebileceğini savunarak dava açtı. Aile, tazminatın yanı sıra şirketin yapay zekâ sistemlerinin lisanssız tıbbi tavsiye vermesini engelleyecek önlemler almasını talep etti.

OpenAI Sözcüsü Drew Pusateri ise olayın son derece üzücü olduğunu belirterek Wan'ın artık kullanılmayan eski bir ChatGPT sürümünden yararlandığını söyledi. Yeni sürümlerin acil müdahale gerektiren durumları tespit etme konusunda geliştirildiğini ifade eden Pusateri, ChatGPT'nin tıbbi bakımın yerini tutmadığını vurguladı.

OpenAI, daha önce de sohbet botunun gençleri intihara yönlendirdiği iddialarıyla açılan davalarla gündeme gelmişti.

www.sozcu.com.tr internet sitesinde yayınlanan yazı, haber ve fotoğrafların her türlü telif hakkı Mega Ajans ve Rek. Tic. A.Ş'ye aittir. İzin alınmadan, kaynak gösterilerek dahi iktibas edilemez.