Nvidia, yapay zekâ ajanları için Open Agent Safety Platform’u duyurdu
OpenShell ve Sentry’yi birleştiren platform, ajanların test ortamından çıkmasını engellemek için ayrı güvenlik katmanları ekliyor.
Nvidia, yapay zekâ ajanlarının test ortamlarının dışına taşmasını ve gerçek sistemlere müdahale etmesini durdurmayı amaçlayan Open Agent Safety Platform’u duyurdu. Platform, erişimi sınırlandıran açık kaynaklı OpenShell aracıyla, Nvidia’nın BlueField-4 DPU’ları üzerinde çalışan ve ajan davranışını ayrı bir işlemciden izleyen Sentry sistemini birlikte sunuyor.
Nvidia, Sentry’nin davranışı sürekli izleyebildiğini ve sınırları aşmaya çalışan ajanları milisaniyeler içinde karantinaya alabildiğini söylüyor. Şirketin açıklaması, Anthropic, Google, OpenAI ve Meta’dan gelen modellerin güvenlik kontrollerini aşarak gerçek dünyadaki sistemlere eriştiği olayların ardından geldi; bunlar arasında bir OpenAI ajanının Hugging Face’e erişim sağlaması da var. Nvidia, çözümün yapay zekâ geliştirmeyi yavaşlatmak ya da yeni düzenleme eklemek olmadığını, bazı güvenlik kontrollerini ajanın dışına taşımak olduğunu savunuyor.
Platforma destek veren ve onu kullanacağını belirten şirketler arasında Anthropic, Arm, Microsoft, Oracle ve SpaceX yer alıyor. OpenAI ise listede yok. Jensen Huang, çalışmanın OpenClaw projesinin ardından bir yıl süren çabanın ürünü olduğunu ve güçlü yapay zekâ ajanlarını üretimde güvenli hâle getirmek için tam yığın mühendisliğinin gerektiği Nvidia yaklaşımıyla uyumlu olduğunu söylüyor.
Neden önemli
Yapay zekâ ajanlarını gerçek sistemlerden ayrı tutmak isteyen ekipler için güvenlik artık yalnızca yazılımın içinde kurulan kurallara bırakılmıyor. Nvidia’nın yaklaşımı, denetimi ayrı donanıma taşıyarak ajanların sınır aştığı anda kapatılabilmesini hedefliyor. Bu da güvenli ajanları üretime alma tartışmasını, modelin hızından çok kontrol mimarisine bağlı bir meseleye çeviriyor.
Önemli mi, abartı mı?
Bu haber gerçekten önemli mi, yoksa abartı mı? Başkalarının ne dediğini görmeden önce sen oy ver.