Sıradan görünen yüzlerce yapay zekâ uygulaması, cinsel istismar içeren deepfake özelliklerini gizliyor

WIRED'ın incelemesine göre, evcil hayvan portresi gibi masum uygulamaların arkasında 400'den fazla bağlantılı alan adı ve uygulamadan oluşan bir ağ, fotoğraflardan müstehcen yapay zekâ görselleri üretiyor.

WIRED'ın yürüttüğü bir araştırma, Viefur adlı bir evcil hayvan portresi üreticisi de dahil olmak üzere sıradan görünümlü bir grup yapay zekâ uygulamasının, cinsel istismar içeren deepfake üretmek için tasarlanmış 400'den fazla bağlantılı alan adı ve uygulamadan oluşan bir ağı gizlediğini ortaya çıkardı. Uygulamalar mağaza sayfalarında zararsız görünüyor, ancak belirli koşullarda açıldıklarında, kullanıcıların yüklediği fotoğraflardan müstehcen yapay zekâ görsel ve videoları üreten gizli bir web arayüzü yüklüyor.

Araştırmacılar ağı, Çinli geliştiricilere ait olduğu anlaşılan bir yapıya ve Hong Kong'da kayıtlı KeLing Technology Limited şirketine bağladı. Şirket, yorum talebine yanıt vermedi. Uygulamalar, Meta'nın Facebook ve Instagram platformlarında binlerce video reklamla tanıtıldı; birkaçı ise Google Play Store üzerinden toplamda 350.000'den fazla kez indirildi. Google, Apple ve Meta, bu tür içeriklerin politikalarında yasak olduğunu belirtiyor. Ancak bu uygulamaların incelemeden nasıl geçtiği ve uygulama mağazalarının bu tür içeriklere ne kadar hızlı müdahale edebildiği soruları gündemde.