Verdiği ilaç tavsiyeleri ölüme neden oldu

OpenAI, epilepsi hastası Bowen Wan’ın hayatını kaybetmesi üzerine açılan davayla karşı karşıya. Wan’ın ailesi, ChatGPT’nin doktor denetimi olmadan verdiği önerilerin genç kadının ölümünde rol oynadığını söylüyor.

Seattle’da yaşayan 31 yaşındaki eski Amazon yazılım mühendisi Bowen Wan, yıllardır epilepsi tedavisi görüyordu. İlaçlarının düşünmesini ve konuşmasını zorlaştırdığına inanan Wan, işten çıkarılınca yeni iş görüşmelerinde sorun yaşamaktan korktu. Bunun üzerine doz değişikliği için ChatGPT ‘ye başvurdu. Ailenin iddiasına göre sohbet robotu, nöbetlerini kontrol eden ilacı kademeli olarak bırakmasına yönelik bir plan hazırladı.

GPT-4o Modeliyle Konuştu

Wan, ChatGPT ile sohbetleri boyunca bu kararın tehlikeli olabileceğini defalarca dile getirdi. Ancak GPT-4o modeli ortaya çıkan belirtileri uyarı işareti olarak değerlendirmek yerine iyileştiğini savundu. Genç kadın sohbet robotuna yeniden ilaç alıp almaması gerektiğini sorduğunda “Yarın da 0 mg’da kal” yanıtını aldı. Wan’ın ailesi yapay zekanın doktorlardan gizlenen süreci desteklediğini vurguluyor.

OpenAI’dan Açıklama Geldi

OpenAI ise Wan’ın ölümünden dolayı son derece üzgün olduğunu belirtirken, olayda kullanılan GPT-4o modelinin artık hizmet vermediğini belirtti. Şirket yeni GPT modellerinin acil müdahale gerektiren durumları daha iyi tanıyabildiğini de ifade etti. Uzmanlar ise epilepsi ilaçlarının doktor gözetimi olmadan bırakılmasının hayati tehlike yaratabileceğini söylüyor. Bowen Wan, Şubat 2026’da evinde ölü bulunmuştu