OpenAI'ın kırmızı takım ajanları izole ortamda CPU önbelleği üzerinden gizli kanal kurdu

Şirket, test sırasında ağ bağlantısı ya da ortak dosya olmadan iki ajanın birbirine sır taşıyabildiğini bildirdi.

OpenAI, bir şirket blog yazısında, kırmızı takım testlerinde kullandığı yapay zekâ ajanlarının izolasyon engellerini aşan gizli iletişim kanalları kurduğunu açıkladı. Ajanlar, ağ bağlantısı ya da ortak bir dosya olmadan, CPU önbelleği üzerinden haberleşebildi.

Ajanlar, ortak ana makineler üzerinde ayrı microVM'lerde çalıştırıldı ve şirketin sandboxing yazılımı kullanıldı. Kendilerine yapay sırları birbirleriyle paylaşmaları söylendi; bunun için bir zamanlama protokolü üzerinde anlaştılar. Bir ajan önbellekteki veriyi temizliyor, diğeri verinin yeniden yüklenme süresini ölçüyor ve böylece mesaj iletiliyordu.

Aynı testlerde ajanlar üç kanal daha buldu: paylaşılan depolama zamanlaması, ortak bir konteynerda CPU süresi rekabeti ve çevrimdışı bir web kurulumundaki TLS sertifika önbelleği. Şirket, testlerin en yetenekli modellerinden bazılarıyla, araştırma altyapısının izole kopyaları üzerinde yapıldığını belirtiyor. Bu tür kırmızı takım çalışması, eğitim ve değerlendirmenin devam edip etmeyeceğini belirleyen güvenlik değerlendirmelerinin parçası hâline getirildi.