Trusence Her iddianın bir kaynağı var
Son güncelleme: 17 Kasım 2026 Ara English
Güvenlik Gelişen haber

OpenAI, CSAM tespiti için yeni bir sınıflandırıcı ve ChatGPT'de uyarı sistemi devreye aldı

Şirket, yapay zekâ ile üretilen çocuk cinsel istismarı görüntülerini tespit eden ücretsiz bir araç sunuyor; ChatGPT'de çocukları cinselleştiren istemler yazan kullanıcılar 24 saat askıya alınıyor.

İlk yayından sonra 1 yeni haberle güncellendi · en son 16 Kasım 23:07

OpenAI, çocuk cinsel istismarı materyaline karşı bir dizi önlem açıkladı. Merkezinde, bu tür görüntüleri işaretleyebilen yeni bir sınıflandırıcı var. Araç, çeşitli araçlarla üretilen yapay zekâ görüntülerini de tespit edebiliyor. Erken dönem partner testlerinde sınıflandırıcı, aynı sayıda istismar içeren görüntüyü yakalarken işaretlediği görüntülerin sayısını yüzde 48 azalttı. İşaretlenen görüntülerin istismar içerme olasılığı ise iki kat yüksek çıktı.

Şirket aracı, API üzerinden onaylanmış kuruluşlara ücretsiz sunuyor. Erişimi paylaşmak için NCMEC, Tech Coalition ve ROOST ile çalışıyor. Açık kaynaklı modeller ve çıplaklaştırma uygulamaları dahil farklı araçlardan gelen istismar görüntülerini yakalayabildiği belirtiliyor. Araç, yapay zekâ ile üretilen materyale özel bir işaret konulabilen, geniş ölçekte erişilebilir ilk CSAM sınıflandırıcısı olarak tanımlanıyor.

ChatGPT'de ise çocukları cinselleştiren istemleri deneyen kullanıcılara uyarı gösteriliyor. İlk ihlalde hesap 24 saat askıya alınıyor, tekrarlanan ihlallerde kalıcı olarak kapatılma riski bulunuyor. OpenAI ayrıca geliştiriciler için rehber yayımlıyor ve kolluk kuvvetlerine yönelik yapay zekâ araçları ile eğitim sunuyor.

Bu adımlar, NCMEC'nin 2025 yılında yapay zekâ üretimli CSAM ile ilgili 400.000 ihbar aldığını bildirmesinin ardından geldi. 2024'te bu sayı 67.000'di. Politika yapıcılar ve eyalet başsavcıları da yapay zekâ şirketlerini çocuk güvenliği konusunda baskı altına alıyor.

Neden önemli

Yapay zekâ ile üretilen istismar görüntülerinin hacmi bir yıl içinde altı kattan fazla arttı; bu da hem platformların hem de tespit ekiplerinin bu materyali ayıklama yükünün hızla büyüdüğü anlamına geliyor. Sınıflandırıcının API üzerinden onaylı kuruluşlara ücretsiz açılması, küçük ekiplerin de bu tespit kapasitesine erişebilmesi demek. ChatGPT'deki askıya alma politikası ise kötüye kullanımın hesap düzeyinde cezalandırılacağını gösteriyor. Bu uygulamaların etkisi, işaretlenen görüntülerin ne kadar doğru ayıklandığı ve kötüye kullanımın başka araçlara kayıp kaymadığı zamanla netleşecek.

Kaynaklar · 2