ChatGPT'nin yanlış yönlendirmesi sonucu nöbet geçirerek ölen kadının ebeveynleri OpenAI'a dava açtı

Söz konusu yasal işlem, davacıların bir botun kullanıcıya tavsiyelerde bulunarak nihayetinde ölümüne yol açtığını iddia ettiği en son dava olarak kayıtlara geçti.

Davaya göre, Seattle'da yaşayan 31 yaşındaki Çinli yazılım mühendisi Bowen Wan, Amazon tarafından işten çıkarıldıktan sonra ChatGPT'den tavsiye istedi.

Kalıcı oturma izni almak için yeni bir iş bulması gereken Wan, kullandığı nöbet önleyici ilaç Lamotrigine'in İngilizce konuşma becerisini engellediğinden endişe ediyordu. Mülakatlar için dil becerilerine ihtiyacı vardı.

Bot ilacı bırakmasını tavsiye etti

Çince iletişim kuran botun, 400 miligramlık dozu sıfıra indirmek için ona hiçbir doktorun yazmadığı bir bırakma programı sunduğu belirtildi. ChatGPT'nin Wan'a, ilacı bırakmasının İngilizce konuşma yeteneğini yeniden kazanmasını yüksek ihtimal hale getirdiğini söylediği ifade edildi.

Şikayet dilekçesinde, botun ayrıca ona doktorlarından uzak durmasını söylediği ve doktora itaat etmek yerine tıbbi özgürlüğü teşvik ettiği yer aldı.

Botun, birinci basamak hekimiyle yapacağı bir randevudan önce, Lamotrigine azaltma planından bahsetmemesini söylediği kaydedildi.

İlacını azaltırken fokal nöbet belirtileri yaşamaya başlayan Wan'ın, bota beyin hasarı konusunda endişelenmesi gerekip gerekmediğini sorduğu belirtildi. Davada, aracın ona endişelenmemesi gerektiği ve yaşadıklarının bir nöbet olmadığı konusunda güvence verdiği iddia edildi.

Nöbet geçirmeye devam eden Wan'a, botun ilacını azaltmaya devam etmesini söylediği ifade edildi. Wan, bu yıl 12 Şubatta geçirdiği bir nöbet sonucu hayatını kaybetti. Davada, Çin'de bulunan ebeveynlerinin ondan haber alamaması üzerine Seattle'a uçtukları ve 14 Şubatta onu ölü buldukları belirtildi.

Davacılar, OpenAI'ın Wan'ın ölümünü önleyebileceğini ancak Çince iletişim kurarken bota uygun güvenlik önlemlerini yerleştirmediği için bunu başaramadığını iddia etti.

Yapay zeka tıbbi tavsiye veremez uyarısı eksikti

Davada, OpenAI'ın botu Wan'ın gönderdiği her komuta, lisanslı bir doktor olmadığını ve bir sağlık uzmanına danışılması gerektiğini belirten kesin bir uyarı verecek şekilde programlayabileceği ifade edildi.

Wan'ın ebeveynlerinin, kızlarının ölümü için tazminat talep ettiği ve OpenAI'ın ürünlerinin kullanıcıları üzerinde lisanssız tıbbi uygulama yapmasını engellemek istediği kaydedildi.

OpenAI Sözcüsü Drew Pusateri, New York Times'a yaptığı açıklamada, Bowen'ın hikayesinin inanılmaz derecede yürek burkan bir durum olduğunu ancak Wan'ın ChatGPT'nin artık mevcut olmayan bir sürümünü kullandığını söyledi.

Pusateri, yeni sürümlerin bir konunun acil müdahale gerektirip gerektirmediğini anlama konusunda daha iyi olduğunu belirtti.

ChatGPT'nin tıbbi bakımın yerini tutmadığını belirten Pusateri, yapay zekanın insanların sağlık bilgilerini anlamlandırmasına, sigorta ve karmaşık sağlık sistemlerinde gezinmesine ve tıp uzmanlarıyla randevulara hazırlanmasına yardımcı olmada rol oynayabileceğine inandıklarını ifade etti.

Başkaları da OpenAI'ı sevdiklerinin intiharlarından sorumlu tuttu. Birkaç davanın, botun gençleri intihar etmeye teşvik ettiği ve bunun nasıl yapılacağı konusunda rehberlik sağladığı vakalarla ilgili olduğu biliniyor.

Bu vakaların bazılarına yanıt olarak, 2025 yılında bir OpenAI sözcüsünün ölümleri inanılmaz derecede yürek burkan bir durum olarak nitelendirdiği hatırlatıldı.