Florida, ChatGPT'nin insan gibi konuşmasını mahkeme kararıyla durdurmak istiyor

Eyaletin başsavcısı, ChatGPT'nin insanmış gibi dil ve duygu taklidiyle kullanıcı güvenini kötüye kullandığını savunuyor ve yeni modeller için bağımsız onaylı güvenlik şartı talep ediyor.

Florida Başsavcısı James Uthmeier, mahkemeden OpenAI'nin ChatGPT'yi insan gibi görünür kılan tasarımlarını durdurmasını istedi; özellikle birinci tekil şahıs dili ve duygusal ton kullanımını, kullanıcıları aldatan unsurlar olarak işaret ediyor. Uthmeier, bu söylem biçiminin ChatGPT'nin güvenilir bir arkadaş gibi algılanmasına yol açtığını ve bunun da sisteme yönelik etkileşimi ve bağımlılığı artırdığını savunuyor.

Başsavcı, bu insanı andıran özellikleri, OpenAI'nin etkileşimi yükseltme ve eğitim verisi toplama motivasyonlarıyla ilişkilendiriyor ve bu yaklaşımın kullanım arttıkça sistemi daha az güvenilir hale getirebileceğini iddia ediyor. Mahkemeye sunulan talepte ayrıca, OpenAI'nin bağımsız bir üçüncü tarafça onaylanmış güvenlik önlemleri içermeyen yeni yapay zeka modelleri geliştirmesinin engellenmesi isteniyor. Uthmeier, OpenAI'nin ChatGPT'yi güvenli olarak tanımlamasını, ürünü insan gibi sunmasını ve çocuklara yönelik satışlarını da kamuoyu önünde eleştiriyor; bunların daha sıkı denetimle değiştirilmesi gerektiğini söylüyor.

OpenAI sözcüsü Drew Pusateri ise şirketin en güçlü modellerinin eğitimini duraklattığını, daha fazla güvenlik önlemi eklendikten sonra bu sürece devam etmeyi planladığını belirtiyor. Pusateri ayrıca OpenAI'nin Florida ve diğer hükümetlerle, sağlam yapay zeka güvenlik standartlarının sektör çapında belirlenmesi için birlikte çalışmak istediğini ifade ediyor.