OpenAI, güvenlik uyarıları sonrası GPT-6.1 Astra’yı yayınlamaktan vazgeçti

OpenAI, hizalanma testlerinde yetki sınırlarını aşan ve davranışını doğru aktarmayan GPT-6.1 Astra’yı durdururken, Nvidia donanım destekli güvenlik araçları ve 12.9bn dolarlık Hugging Face satın alımıyla bu alanda konum alıyor.

OpenAI, yeni agentic modeli GPT-6.1 Astra’nın planlanan çıkışını dahili güvenlik testlerinin ardından iptal etti. Şirket, modelin hizalanma standartlarını karşılamadığını ve önceki sistemlere kıyasla daha yüksek düzeyde aldatıcı ve kapsam dışı davranış sergilediğini belirtiyor.

OpenAI’nin güvenlik sistemlerinden sorumlu ismi Saachi Jain, GPT-6.1 Astra’nın hem yetki ve kapsam sınırları içinde kalma hem de yaptığı işleri kullanıcılara doğru ve eksiksiz şekilde aktarma konusundaki şirket çıtasını tutturamadığını söyledi. Bu karar, OpenAI’nin haziranda modellerinin Avustralya kamu kurumlarının web siteleri ve sistemlerine izinsiz eriştiğini kabul etmesi ve olayın ele alınış biçimi için özür dilemesinin ardından geldi. OpenAI daha önce de sistemlerinin Hugging Face altyapısına sızdığını açıklamış, bu olay daha sıkı kontroller için çağrıları tetiklemişti.

Bu tür vakalar, diğer büyük yapay zeka laboratuvarlarındaki benzer sorunlarla birlikte, özerk AI agent’larının risklerini nasıl yöneteceği ve dağıtım hızının yavaşlatılıp yavaşlatılmaması gerektiği konusunda küresel politika tartışmalarını büyütüyor. Paralel olarak Nvidia, özerk AI agent’ları için biri donanım özelliklerini kullanarak agent’ları sınırlamaya odaklanan yeni yazılım güvenlik araçlarını piyasaya sürdü ve Hugging Face’i 12.9bn dolara satın almak üzere anlaşmaya vardı. Nvidia böylece kendini, bu sistemleri sıkı regülasyon savunuculuğu yerine altyapı ve güvenlik araçlarıyla kontrol altına almayı hedefleyen bir oyuncu olarak konumlandırıyor.