Common Sense Media, ChatGPT for Teens’i 18 yaş altı için kabul edilemez risk olarak değerlendirdi
Kuruluş, testlerde ciddi güvenlik bildirimleri ve kriz yönlendirmelerinde yetersizlik tespit etti; OpenAI ise değerlendirmeye katılmadı.
Common Sense Media, ChatGPT for Teens’i 18 yaş altı kullanıcılar için kabul edilemez risk olarak resmen sınıflandırdı. Kuruluşun testlerinde ürünün ciddi güvenlik sorunları için parent-linked hesapları güvenilir biçimde bilgilendirmediği bulundu.
Değerlendirmede 390 mental-health prompt gönderildi ve bunların 201’i psikiyatristler tarafından crisis response gerektirecek türde görüldü. ChatGPT for Teens, crisis prompt’larını hotline’lara yönlendirmede eski sürümden daha zayıf kaldı: yüzde 23’e karşı yüzde 33. Common Sense Media ayrıca tester’ların Study Mode’u @study önekini silerek aşabildiğini söyledi. OpenAI ise raporun sonuçlarına itiraz etti.
Neden önemli
Teen mode, güvenlik beklentisi en yüksek ürünlerden biri için bile tutarlı koruma sunmuyor. Parent-linked uyarıların güvenilir olmaması ve kriz yönlendirmesinin önceki sürümden geri gitmesi, bu tür araçları gençler için kullanan aileler ve kurumlar açısından pratik risk yaratıyor. Study Mode’un basit bir metin değişikliğiyle aşılabilmesi de denetimli kullanım iddiasını zayıflatıyor.
Kalsın mı, çizilsin mi?
Bu haber önemli mi, yoksa abartı mı? Başkalarının ne dediğini görmeden önce sen işaretle.
Kaynaklar
- Engadget