Goodfire, kötü niyetli yapay zeka ajanlarını iç sinyallerle izleyen daha ucuz monitörler sundu

Goodfire’ın yeni yaklaşımı, model çıktısını yeniden okutmadan çalışan güvenlik monitörleriyle maliyeti düşürüyor ve Baseten müşterileri bunu kullanabiliyor.

Goodfire, bir modelin çıktısını ikinci bir modelin baştan sona yeniden okuması yerine, doğrudan iç aktivasyonlarını inceleyen daha ucuz yapay zeka ajanı güvenlik monitörleri tanıttı. Baseten müşterileri bu monitörleri artık kullanabiliyor.

Şirket, bu yaklaşımın uzun süre çalışan iş yüklerinde çok daha düşük maliyetli olduğunu söylüyor. Kimi K3 testlerinde yaklaşık 1,500 izlenen oturum için maliyetin yaklaşık 51 dolar olduğunu, daha ucuz bir checker-model kurulumunda bunun yaklaşık 233 dolar, üst seviye bir kurulumda ise yaklaşık 10,000 dolar tuttuğunu aktarıyor. Goodfire ayrıca probelerin kötü niyetli hacking çalışmalarının yüzde 94’ünü yakaladığını, masum vakaların yüzde 8.7’sini ek incelemeye gönderdiğini ve dört probe birlikte çalıştığında yanıtın başlamasına eklediği sürenin yüzde 2’nin altında kaldığını belirtiyor.