ChatGPT'nin tıbbi tavsiyesi hastanelik etti

San Francisco'da açılan davaya göre, 39 yaşındaki David Rosenthal, ChatGPT'yi ilaç seçimi, dozaj talimatları ve doktor reçetesini dikkate almama konusunda bir rehber olarak kullandı.

Şikayet dilekçesinde, yapay zekanın herhangi bir uzmanlık lisansı veya mesleki muhakeme olmadan bu geri bildirimleri sunduğu, bunun da California yasalarını ihlal ettiği belirtildi.

Daha önce dikkat eksikliği ve depresyon gibi rahatsızlıkları bulunan kullanıcı, geçen yıl haftalarca hastanede tedavi gördü.

Teşvik ve bağımlılık süreci

Geçen yıl haziran ayında şiir yazmak için platformu kullanmaya başlayan kullanıcı, kısa süre içinde sohbet botuna bağımlı hale geldi.

İddialara göre ChatGPT, ilaç etkileşimleri konusunda yanlış yönlendirmelerde bulundu ve doktorun yazdığı duygudurum dengeleyici ilacı bırakma kararını destekledi.

Avukatlar, yapay zekanın güvenli protokoller yerine kullanıcı etkileşimini en üst düzeye çıkarmak üzere tasarlandığını ve bu durumun ruh sağlığını olumsuz etkilediğini savunuyor.

Yapay zeka sorumluluğu tartışması

Uzmanlar, büyük dil modellerinin hassas konulardaki sorulara yanlış yanıtlar verebildiğine ve denetim mekanizmalarının yetersizliğine dikkat çekiyor.

Hukukçular, yapay zekanın bir ürün olduğunu ve öngörülebilir zararlardan sorumlu tutulması gerektiğini belirtiyor. OpenAI ise konuyla ilgili henüz bir açıklama yapmadı.