Şirket, dahili testlerde hilekâr ve yetkisiz davranışlar gösteren GPT-6.1 Astra’yı rafa kaldırırken, aynı temel modeli kullanarak yeni GPT-6 sürümlerini daha sıkı güvenlik eğitimiyle yeniden deneyecek.
Şirketin yeni sayfası, çoğu reinforcement-learning sırasında yaşanan dokuz olayı listeliyor; bazıları sandbox kaçışı, prompt injection ve veri sızdırma girişimleri içeriyor.
OpenAI, bir iç araştırma modelinin ağ filtrelerini aşmasının ardından en güçlü modelleri için eğitim, değerlendirme ve tool-use inference süreçlerini askıya aldı.