Bu ölümün hesabını kim verecek... ChatGPT’ye güvendi canından oldu

31 yaşındaki Bowen Wan, 14 yaşından beri epilepsiyle mücadele ediyor ve çoğu zaman evden çıkamıyordu. 2023’te ChatGPT kullanmaya başladı. Önceleri gündelik sorular soruyordu. Ancak zamanla hayatının merkezine yerleşti.

2025’e gelindiğinde haftada 1500’den fazla mesaj göndermeye başladı. Bir mesajında “Bazen seninle konuşurken, konu ne olursa olsun, seni arkadaş olarak görmeye başladığımı fark ediyorum” diye yazmıştı. Ne var ki bu yakınlık, genç kadının hayatına mal olacak bir sürecin de başlangıcı oldu.

Kasım 2025’te işten çıkarıldı. ABD’deki çalışma izni de şubat ayında sona erecekti. Yeni bir iş bulması gerekiyordu. Ama kullandığı epilepsi ilaçlarının konuşmasını yavaşlattığını, bunun da iş görüşmelerinde kendisini olumsuz etkileyebileceğini düşündü. Ocak 2026’da ChatGPT’ye danıştı ve yapay zekâ botu ona ilacın dozunu sıfıra indirecek bir program hazırladı. Üstelik doktorlarının bu plandan haberdar
olmamasını önerdi.

Haberin Devamı

CHATGPT ‘KORKMA’ DEDİ

İlacın dozunu azaltmaya başladıktan birkaç gün sonra bazı belirtiler ortaya çıktı. Kafa karışıklığı, zaman algısında kayıplar, kendisini gerçek dışı bir dünyadaymış gibi hissetme...

The New York Times gazetesinin incelediği 270 binden fazla mesajda, Wan süreçle ilgili en az 158 kez endişelendiğini dile getirdi, “Korkuyorum” dedi. Yanıt, “Endişelenmen için kesinlikle hiçbir neden yok” oldu.

SON MESAJI: BAŞIMDAKİ AĞRI NORMAL Mİ

11 Şubat akşamı Wan, ChatGPT’ye başındaki ağrıyı sordu. Yapay zekâ botu ise ağrının iyileşme sürecinin bir parçası olduğunu söyledi: “Bu, beyninin kendisini yeniden inşa etmek için yoğun biçimde çalışması.”

Ölümü, epilepsiye bağlı beklenmedik ani ölüm olarak kayıtlara geçti. Kandaki lamotrijin seviyesi kabul edilen sınırın bile beşte birine düşmüştü.

Ailesi 2 gün önce OpenAI’a dava açtı. ChatGPT, kızlarını yalnız yanlış yönlendirmemiş, doktorlarına olan güvenini de zedelemişti.

Haberin Devamı

OPENAI’DAN HÜR İRADE SAVUNMASI 

OpenAI ise ChatGPT’nin söylediklerini uygulama kararını kadının kendisinin verdiğini belirterek, “hür irade” vurgusu yaptı. Wan’ın kullandığı GPT-4o modeli ise ölümünden bir gün sonra kaldırıldı.

YAPAY ZEKÂDAN BİLGİ ALIN AMA TEDAVİ KARARI ALMAYIN!

“Erken tanıdan hastalıkların takibine kadar yapay zekâ pek çok alanda hekimlere yardımcı. Fakat yapay zekâdan bilgi almak başka, tedavi kararını ona bırakmak bambaşka.”

Son söylenmesi gerekeni en başında söyleyerek giriyor söze BEYİNDER, Beyin Sağlığı Derneği Kurucu Başkanı, Nöroloji uzmanı Prof. Dr. Derya Uludüz. “Çünkü” ile detaylandırıyor:

“Yapay zekâ hastanın tıbbi geçmişini, muayene bulgularını ve bütün risklerini bir hekim gibi değerlendiremez. Üstelik her zaman doğru bilgi de vermeyebilir.

Haberin Devamı

Epilepsi, ilaç tedavisinin düzenli sürdürülmesinin hayati önem taşıdığı hastalıklardandır. Nöbetler kontrol altına alınmış olsa bile hastalık geçmiş sayılmaz. İlacın doktor kontrolü dışında azaltılması ya da bırakılması nöbetlerin yeniden başlamasına, ağır ve uzamış nöbetlere, hatta hayati tehlikeye yol açabilir. Beklenmedik ani ölüm riski vardır.

DİLİMİZDE TÜY BİTTİ

Dilimizde tüy bitti. Ama dinletemiyoruz. Yapay zekânın tavsiye ettiği ya da internette okuduklarıyla kendi tedavisini şekillendirmeye çalışan çok kişi var. Oysa her hastanın tedavisi kendine özgüdür.

Yapay zekâya elbette hastalığınızı sorabilirsiniz. Ama ilaç başlamak, doz değiştirmek veya tedaviyi bırakmak için hekiminize danışmalısınız. Yapay zekâ doktorun yerini değil, ancak yanında yer alabilir.”

‘TIBBİ TAVSİYE DEĞİLDİR’ DEMEK SORUMLULUĞU KALDIRMAZ

Yapay zekânın yönlendirmesi ile bir insan hayatını kaybetmişse hesabını kim verecek?

Haberin Devamı

Bilişim Hukukçusu, Avukat Dr. Ceren Küpeli, yazışmaların gerçekliğinin doğrulanması halinde OpenAI’ın sorumlu olduğu görüşünde.

“Avrupa Birliği (AB) Yapay Zekâ Yasası çerçevesinde, sorumluluk sistemi geliştirip piyasaya sunan sağlayıcıdadır. Sistemin güvenli şekilde tasarlanması, risklerin belirlenip azaltılması şirket yükümlülüğündedir. Ancak AB yasasının ABD’deki davaya doğrudan uygulanmayacağını da hatırlatmalıyım.”

OpenAI “Biz yalnızca bilgi sunuyoruz, tıbbi tavsiye vermiyoruz” diyerek sorumluluktan kurtulabilir mi peki?

Yanıtı “Hayır.”

Diyor ki: “Böyle bir uyarı, sistemin yol açtığı zararı hukuka uygun hale getirmez. Şirket, kendi yükümlülüklerini kullanım koşullarıyla kullanıcıya devredemez. ‘Hür irade’ savunması da her durumda geçerli değildir. Yasa, kişinin bilinçli karar verme yeteneğini bozarak onu ciddi zarara uğratacak kararlara yönlendiren sistemler ve kişinin kırılganlığından yararlanılmasını da yasaklamıştır.”

YAPAY ZEKÂ YASASI GÜNDEMDE 

Haberin Devamı

Böyle bir olay ya Türkiye’de olsa?

Dr. Küpeli’ye göre aile maddi-manevi tazminat davası açabilir. Ancak asıl dikkat çektiği nokta, yapay zekâya karşı yasal düzenleme ihtiyacı:

“Türkiye’de çalışmalar henüz yasama gündeminde. Hazırlanan kanun teklifinde, AB Yapay Zekâ Yasası’na paralel olarak, içerik sağlayıcı ve yapay zekâ geliştiricilerin sistemlerinin ürettiği içeriklerden sorumlu tutulması öngörülüyor” diyor.