ABD'de eşini ChatGPT ile zehirlemeyi planlamakla suçlanan kadın, OpenAI'ye karşı açılan davada adı geçen şirketi de hedef alıyor
Savcılık, North Carolina'da yaşayan Cheryl Gates'i kocası James'i zehirlemeye teşebbüs etmekle suçluyor; kocanın açtığı dava ise OpenAI ve Sam Altman'ı, şüpheli hale gelen sohbetleri durdurmak için teknik önlem almamakla itham ediyor.
North Carolina'da yaşayan Cheryl Gates'in, kocası James'i zehirlemek için ChatGPT'den yardım aldığı iddia ediliyor. Gates, kocasının kendisinden boşanmayı ve onu parasız bırakmayı planladığına dair inancının pekiştiğini söylüyor; bu inanç, planlamanın arkasındaki gerekçe olarak öne sürülüyor. Ekim ayında bir büyük jüri, Gates hakkında birinci derece kasten öldürmeye teşebbüs ve gıda kontaminasyonu suçlamalarıyla iddianame düzenledi.
Bu hafta kamuoyuna duyurulan ve San Francisco County Superior Court'ta açılan davada, kocası James Gates, OpenAI ile Sam Altman'ı hedef alıyor. Dava dilekçesine göre şirket, sohbetlerin açıkça şüpheli bir hal almasının ardından bu konuşmaları durdurmak için teknik önlemler kullanmadı. Dilekçe, sohbet robotunun zehirli bir bitki olan oleanderin dozajı, otopside tespit edilip edilemeyeceği ve enjeksiyon yoluyla uygulandığında yutmak kadar öldürücü olup olmayacağı konularında ayrıntılı yönlendirme verdiğini iddia ediyor.
Dava henüz mahkemede sınanmadı; iddialar dava dilekçesine ve iddianameye dayanıyor. Oleanderin hazırlanması, dozajı ve uygulanmasına dair spesifik talimatların ChatGPT tarafından verildiği iddiası da bu dilekçede yer alıyor.
Neden önemli
Dava, bir yapay zeka sohbet robotunun kötü niyetli bir kullanıcının planlamasına ne kadar yardım edebileceği ve geliştiricilerin bu tür sohbetleri ne zaman durdurmakla yükümlü olduğu sorusunu mahkeme önüne getiriyor. Yapay zeka şirketleri için bu, güvenlik filtrelerinin ve şüpheli konuşmaları tespit edip sonlandırma mekanizmalarının hukuki sorumluluk doğurabileceği anlamına geliyor; yazılım geliştiren ekipler için de zararlı içerik taleplerinde model davranışını nasıl sınırlayacaklarına dair somut bir baskı oluşturuyor.
Önemli mi, abartı mı?
Bu haber gerçekten önemli mi, yoksa abartı mı? Başkalarının ne dediğini görmeden önce sen oy ver.