Anthropic, METR’ye iç sistemlerine çalışan düzeyinde erişim vermeye başladı
Altı METR çalışanı şirket donanımı ve ofis alanıyla birlikte risk ekiplerine benzer erişim aldı; bulgularını METR yayımlayacak.
Anthropic, METR’ye iç sistemlerine çalışan düzeyinde erişim vermeye başladığını açıkladı. Şirket, bu adımın model ve güvenlik risklerini bağımsız biçimde değerlendirmek için atıldığını söyledi.
Anthropic’e göre altı METR çalışanı artık şirket donanımı, ofis alanı ve Anthropic’in kendi risk ekiplerine benzer düzeyde erişim kullanıyor. METR değerlendirme sonuçlarını yayımlayacak; Anthropic ise yayını engelleyemeyecek, ancak dar kapsamlı sansür taleplerinde bulunabilecek.
Şirket ayrıca SecureBio ve Accenture ile çalıştığını, Hugging Face ile de olası gelecek ortaklıkları için erken aşama görüşmeler yürüttüğünü söyledi. Anthropic, SecureBio’nun şu anda birinci basamakta olduğunu ve METR düzenlemesini üçüncü basamak olarak tanımladığını belirtti.
Neden önemli
Dış değerlendirmecilerin laboratuvar benzeri erişim alması, frontier AI geliştirme sürecine şirket dışından daha derin bir bakış açısı getiriyor. METR’nin sonuçları yayımlayacak olması, bu denetimin kapalı kapılar ardında kalmayacağı anlamına geliyor. Anthropic’in başka gruplarla da aynı modelde çalışması, bağımsız güvenlik incelemesini tek bir ortakla sınırlı tutmadığını da ortaya koyuyor.
Kalsın mı, çizilsin mi?
Bu haber önemli mi, yoksa abartı mı? Başkalarının ne dediğini görmeden önce sen işaretle.
Kaynaklar
- Anthropic News