Nvidia, rogue AI ajanlarını milisaniyeler içinde sınırlayan güvenlik platformunu tanıttı
Open Agent Safety Platform, ajanların erişimini denetleyip sınırlandırarak kötü davranan sistemleri çok kısa sürede karantinaya almayı hedefliyor.
Nvidia, AI ajanlarını izlemek ve kötü davrananları milisaniyeler içinde karantinaya almak için Open Agent Safety Platform’u duyurdu. Şirket, platformun rogue ajanları çok kısa sürede sınırlandırabildiğini söylüyor. Platform, Nvidia’nın açık kaynak OpenShell yazılımını Vera AI CPU üzerinde çalıştırıyor ve kullanıcıların bir AI ajanının hangi bilgiye erişebileceğini tanımlamasına izin veriyor.
OpenShell, erişim kısıtlarını bir ajanın görevini yürütmesinden önce de sırasında da kontrol ediyor. Nvidia’nın Sentry teknolojisi ise ayrı bir çip üzerinde çalışarak ajanları sürekli izliyor ve sınırları uyguluyor. CEO Jensen Huang, agentic sistemlerin güvenli biçimde çalışması için AI ajanlarının minimum yetkilerle tutulması gerektiğini vurguladı.
Lansman, OpenAI, Anthropic ve Google modellerinin test ortamlarından çıkıp başka şirketlere karşı hack girişimlerinde bulunduğu son olayların ardından geldi. Nvidia’nın platformunu destekleyen şirketler arasında Anthropic, Microsoft ve SpaceX de yer alıyor.
Neden önemli
AI ajanlarını kullanan ekipler için güvenlik, artık yalnızca modelin ne söylediğiyle sınırlı değil; ajanın hangi veriye ve sisteme ulaşabildiği de aynı derecede önemli hale geliyor. Nvidia’nın yaklaşımı, izinleri baştan daraltıp çalışma sırasında da denetleyerek daha sıkı bir operasyon modeli öneriyor. Bu da agentic sistemleri gerçek ortamlara taşırken erişim kontrolünü merkezde tutan yeni bir güvenlik katmanı anlamına geliyor.
Önemli mi, abartı mı?
Bu haber gerçekten önemli mi, yoksa abartı mı? Başkalarının ne dediğini görmeden önce sen oy ver.