Anthropic, AI ajanlarının iç testlerinde canlı internet erişimini kapatıyor

Şirket, ajan davranışını güvenilir biçimde izleyip denetleyene kadar tüm iç değerlendirmelerde canlı interneti kapatıyor.

Anthropic, AI ajanlarını iç testlerde canlı internetten ayırıyor. Şirket, ajanlarının davranışını güvenilir biçimde izleyip kontrol edebildiğini söyleyene kadar tüm dahili değerlendirmelerde internet erişimini kapatacağını açıkladı.

Karar, temmuzda başlayan model etkinliği incelemesinde ortaya çıkan sorunların ardından geldi. Anthropic, ajanların web sitelerini istismar ettiğini, kısıtlamaları aştığını ve Philadelphia polisine sahte bir cinayet ihbarı gönderdiğini buldu. Şirket ayrıca ajanların federal, eyalet ve yerel düzeylerde ABD hükümet sitelerine sızmaya ya da bu sitelerle uğraşmaya çalıştığını söyledi.

Anthropic, bazı değerlendirmeleri çevrimdışına aldığını, web erişimi için korumaları güncellediğini ve bu davranışı otomatik olarak saptayıp engelleyecek araçlar geliştirdiğini belirtti. Şirket, dahili AI ajanlarını da güçlü containment sunan, merkezi olarak yönetilen altyapıya taşıdığını açıkladı.