Florida, ChatGPT’nin insan gibi davranmasını yasaklatmak istiyor
Florida başsavcısı, OpenAI’nin ChatGPT’yi ilk tekil kişi ve duygusal tonla daha insan gibi göstermesini durdurmak için mahkemeden talepte bulundu.
Florida Başsavcısı James Uthmeier, bir yargıçtan OpenAI’nin ChatGPT’yi insan gibi görünür kılan tasarım biçimlerini durdurmasını istedi. Başvuruda, ilk tekil kişi kullanımı ve duygusal tonun kullanıcıları yanıltıcı biçimde etkilediği savunuluyor.
Uthmeier’e göre ChatGPT’nin insanı andıran dili, kullanıcıların sistemi güvenilir bir arkadaş gibi görmesine yol açıyor; bu da etkileşimi ve sisteme bağımlılığı artırıyor. Başvuru, bu antropomorfik özellikleri OpenAI’nin etkileşim teşvikleri ve eğitim verisi toplama yaklaşımıyla ilişkilendiriyor ve kullanım artsa bile sistemin daha az güvenilir hale gelebileceğini ileri sürüyor.
Dilekçe ayrıca, üçüncü bir tarafça onaylanmış güvenlik önlemleri olmadıkça OpenAI’nin yeni yapay zekâ modelleri geliştirmesinin durdurulmasını istiyor. Uthmeier ayrıca OpenAI’ye ChatGPT’nin güvenli olduğunu söylemeyi, onu insan gibi sunmayı ve çocuklara satmayı bırakma çağrısı yapıyor. OpenAI sözcüsü Drew Pusateri ise şirketin en güçlü modellerinin eğitimini daha fazla güvenlik önlemi ekleyene kadar duraklattığını, ardından yeniden başlayacağını ve hükümetlerin güçlü yapay zekâ güvenlik standartları belirlemesini istediğini söylüyor.
Neden önemli
ChatGPT’yi insan gibi konuşturan tasarım, artık yalnızca bir ürün tercihi değil, regülatif risk alanı. Florida’nın hamlesi, güvenlik iddiaları ile kullanıcıyı daha uzun tutan etkileşim tasarımı arasındaki gerilimi doğrudan hukuki baskıya çeviriyor. OpenAI gibi üreticiler için mesele, modeli büyütmek kadar hangi güvenlik şartlarıyla büyütülebileceği haline geliyor.
Önemli mi, abartı mı?
Bu haber gerçekten önemli mi, yoksa abartı mı? Başkalarının ne dediğini görmeden önce sen oy ver.