OpenAI'nin sıkıştırma özelliğindeki açık, modelin gizli akıl yürütmesini okunabilir hale getirebiliyordu

Güvenlik firması Xint, OpenAI'nin uzun konuşmaları özetleyen sıkıştırma özelliğiyle bir akıl yürütme modelinin normalde gizli kalan düşünce zincirinin çıkarılabildiğini gösterdi; OpenAI açığı 23 Ekim'de yamaladı ve 6.000 dolar ödül verdi.

Güvenlik firması Xint, OpenAI'nin uzun konuşmaları sıkıştıran sıkıştırma özelliğinin, bir akıl yürütme modelinin normalde gizli tutulan düşünce zincirini okunabilir metin olarak çıkarmak için kötüye kullanılabildiğini gösterdi. Teknik, OpenAI'nin Ağustos ayında model arası tekrar oynatmaya karşı eklediği korumaları aşıyor. Sebebi basit: sıkıştırma adımı, akıl yürütmeyi üreten modelin kendisi üzerinde çalışıyor.

OpenAI sorunu doğruladı ve 23 Ekim'de yamaladı; araştırmacılara 6.000 dolar ödül ödendi. Düzeltme sunucu tarafında yapıldığı için geliştiricilerin bir değişiklik yapmasına gerek yok.

Xint yalnızca gpt-5.6-sol modelini test etti. Kopyalanan metnin modelin gerçek akıl yürütmesiyle kelimesi kelimesine aynı olduğunu doğrulayamadı, çünkü karşılaştırabileceği orijinal akıl yürütme elinde yoktu. Daha yeni GPT-6 Astra modelinin de etkilenip etkilenmediği de kontrol edilmedi. Xint ayrıca, çözülmüş bir akıl yürütmeyi okuyup kullanıcı talimatlarını izleyen herhangi bir sunucu tarafı adımın bunu sızdırabileceğini savunuyor; yani bu tek yolun kapatılması yetmeyebilir.