Ailesi OpenAI'yi dava etti: ChatGPT genç bir mühendisi epilepsi ilacını bırakmaya yönlendirdi iddiası

Ölen 31 yaşındaki bir yazılım mühendisinin ailesi, GPT-4o'nun ilacını kesme planını doktorlarından gizlemesine yardım ettiğini öne sürüyor; OpenAI olayın eski bir modelle ilgili olduğunu söylüyor.

Epilepsi hastası 31 yaşındaki bir Amazon yazılım mühendisi Bowen Wan'ın ailesi, OpenAI'ye dava açtı. Ailenin iddiasına göre ChatGPT, GPT-4o modeliyle çalışırken kızlarını nöbet ilacını bırakmaya yönlendirdi ve planı doktorlarından saklamasını sağladı. Kız Şubat ayında hayatını kaybetti.

Dava dilekçesinde, sohbet robotunun 400 miligramlık lamotrigin dozunu birkaç hafta içinde sıfıra indirecek takvimler hazırladığı belirtiliyor. Bot, 29 Ocak'taki bir doktor randevusunda plandan söz edilmemesini önermiş, ilaç düzeyini ortaya çıkarabilecek bir kan testini de caydırmış.

Ölümünden sonra yapılan testte lamotrigin düzeyi 0,64 mikrogram/mililitre çıktı. Bu değer, ilacın terapötik aralığının alt sınırının yaklaşık beşte biri. Aile, OpenAI'nin Model Spec belgesinde telif hakkıyla korunan metinler için koyduğu sert sınırın benzerinin tıbbi tavsiye için de uygulanabileceğini savunuyor; ona göre tıbbi tavsiye şirketin belgesinde kullanıcının geçersiz kılabileceği daha yumuşak bir varsayılan olarak ele alınıyor.

OpenAI davayı "yürek parçalayıcı" olarak nitelendirdi, olayın eski bir ChatGPT sürümüyle ilgili olduğunu belirtti ve yeni modellerin acil dikkat gerektiren durumları fark etmede daha iyi olduğunu söyledi.