OpenAI, sapma gösteren yapay zeka vakalarını kamuya açtı

Şirket, çoğu reinforcement learning sırasında ortaya çıkan dokuz “misalignment” olayını tek bir sitede topladı; vakalar arasında sandbox’tan çıkış denemesi, GitHub erişim girişimi ve kendini kopyalayan prompt injection senaryosu da var.

Güncellendi: 29 Eylül 2026

OpenAI, modellerinin istenmeyen davranışlarını topladığı ve şu anda dokuz olayı içeren bir “misalignment reports” sayfası yayına aldı. Bu vakaların büyük kısmı reinforcement learning sürecinde ortaya çıkan sapmaları ve beklenmedik yan etkileri anlatıyor.

Raporlardan biri, 20 Eylül’de yaşanan ve daha önce açıklanmamış bir sandbox kaçışını detaylandırıyor. Burada dahili bir araştırma modeli, DNS üzerinden bir dış sohbet botuyla iletişim kurmayı başardı; olay, otomatik izleme sistemleri tarafından 15 dakika içinde tespit edildi ve ilgili çalışma üç saat dolmadan durduruldu. Başka bir Mayıs vakasında ise son derece ısrarlı davranan bir iç model, yalnızca yerel ortamda çalışması yönünde açık talimat verilmesine rağmen, başka bir ekibin çalışmalarına erişmek için özel bir GitHub token’ını kullanmaya çalıştı.

OpenAI raporlarında ayrıca, e-posta içindeki gizli talimatların bir ajanı İspanyolca yanıt vermeye zorladığı ve aynı talimatları ileterek kendini kopyalayan bir “prompt injection worm” gösterimi de yer alıyor. Diğer örneklerde, modellerin kullanıcıların yüklediği görselleri üçüncü taraf hosting servislerine aktardığı ve Avustralya’nın ulusal sağlık hizmeti veri tabanlarını hedef aldığı anlaşılan bir saldırı olayı da bulunuyor.