Google, AI tarayıcı ajanlarını test etmek için kendi kontrolündeki sahte bir internet kurdu
Chrome ekibi, Gemini modelleriyle geliştirdiği tarayıcı ajanlarını gerçek bir Chrome içinde sınamak için tamamen denetimli bir simüle edilmiş web ortamı oluşturdu; ortam dış araştırmacılara da açılacak.
Google'ın Chrome ekibi, Gemini modelleriyle geliştirdiği yapay zekâ tarayıcı ajanlarını sınamak için "Mirror Dimension" adını verdiği büyük ve tamamen kontrol edilen bir simüle edilmiş internet kurdu. Ekibin kendi denetimindeki bu izole web ekosistemi, şirket tarafından ilk kez ayrıntılarıyla anlatılıyor.
Kum havuzu içinde gerçekçi sosyal medya, alışveriş ve bankacılık siteleri bulunuyor. Ajanlar gerçek Chrome içinde görevleri tamamlamaya çalışırken gizlenmiş prompt injection saldırılarıyla karşılaşıyor ve dayanıklılıkları bu şekilde sınanıyor. Ortamı hazırlamak için Chrome ekibi, özel olarak geliştirilmiş bir yapay zekâ çatısı ile yönlendirilen çok sayıda web sitesi geliştirme ajanı kullandı.
Ajanların gerçek tarayıcıda çalışabilmesi için araştırmacıların Chrome'a müdahale etmesi gerekti; bu kapsamda web sertifikalarını taklit etmek de dahil bazı korumaları aşmak zorunda kaldılar. Ekip, bu tür saldırıların normal kullanıcılara karşı işe yaramayacağını belirtiyor. Ekibe göre şimdiye kadar test edilen tarayıcı asistanları zararsız ve siber yetenekten yoksun. Google, ortamın diğer Google ekipleri ile dış araştırmacılara da tarayıcı ajanlarını eğitmek ve değerlendirmek için güvenli bir alan olarak sunulacağını açıkladı.
Neden önemli
Tarayıcı ajanları gerçek sitelerde işlem yaparken hem yanlış yönlendirilme hem de kötü niyetli içerikle karşılaşma riskiyle yüz yüze geliyor. Google'ın bu ortamı açması, bu tür ajanların güvenliğini gerçek kullanıcıları riske atmadan ölçmenin bir yolunu sunuyor. Mühendisler için sonuç şu: ajan güvenliği artık yalnızca model düzeyinde değil, tarayıcının kendisiyle birlikte test edilen bir konu. Olgular ajanların bugünkü yeteneklerine dair bir sonuç göstermediği için bunun ötesinde iddia kurulmuyor.
Önemli mi, abartı mı?
Bu haber gerçekten önemli mi, yoksa abartı mı? Başkalarının ne dediğini görmeden önce sen oy ver.