Anthropic’in desteklediği AI güvenlik tasarısı, durdurma eşiğini 50 ölüm ya da 1 milyar dolar hasara bağlıyor

Tasarı, model yayınına federal müdahaleyi yalnızca çok ağır zarar senaryolarında mümkün kılıyor ve süreci Ticaret Bakanlığı üzerinden federal yargıca taşıyor.

Anthropic, bir modelin yayınının engellenebilmesi için çok yüksek eşikler öngören bir AI güvenlik tasarısını destekliyor. Tasarı, en az 1 milyar dolar zarar ya da 50’den fazla ölüm veya yaralanma gibi ağır sonuçlar söz konusu olmadıkça hükümetin yayını durdurmasına izin vermiyor.

Metin, biyolojik silah riski, AI destekli siber saldırılar ve bir laboratuvarın bir modeli ya da ajanı kontrol edememesi gibi durumları da kapsıyor. Ticaret Bakanlığı’na kayıtlı bağımsız bir üçüncü taraf, laboratuvarları ve modelleri periyodik olarak değerlendirecek. Değerlendirici yaklaşan ve eşiğe giren bir risk görürse 72 saat içinde bildirim yapmak zorunda olacak. Bundan sonra Ticaret Bakanlığı delilleri Columbia Bölgesi’ndeki federal yargıca götürmekle yükümlü olacak; başka hiçbir ABD kurumu ya da yetkilisi yayının durdurulmasına tek başına karar veremeyecek.

Anthropic, teklifin şirketin Advanced AI Framework’üyle uyumlu olduğunu ve haziran ayından beri federal ve eyalet düzeyindeki yasa yapıcılarla benzer fikirleri savunduğunu söylüyor.