Anthropic, 50’den fazla ölüm riski olan yapay zeka modellerini durduracak taslak yasa sundu

Şirketin önerisi, yakın ve öngörülebilir ağır zarar riski görülen bir modelin yayımlanmasını mahkeme kararıyla durdurabilecek resmi bir süreç kuruyor.

Anthropic, yapay zeka güvenliği için bir taslak yasa dolaşıma soktu ve bunun Kongre’nin değerlendirmesini istediği bir metin olduğunu söyledi. Taslak, yayımlanması halinde öngörülebilir ve yakın bir risk taşıdığı değerlendirilen modeller için resmî bir durdurma süreci oluşturuyor.

Öneriye göre eşik, 50’den fazla ölüm ya da 1 milyar doların üzerinde maddi hasar doğurabilecek bir risk. Bu tanımın içine biyolojik silah kaynaklı tehditler, modelin geliştiricisinin denetiminden çıkması ve bir siber saldırı da giriyor. Süreçte Commerce Department’a kayıtlı bağımsız değerlendiriciler görev alacak; tehlike tespit ederlerse 72 saat içinde Commerce’i bilgilendirecekler. Ardından Commerce’in bir D.C. yargıcından yayımlamayı durdurma kararı istemesi gerekecek, federal kurumlar bunu tek başına yapamayacak.

Anthropic, taslağın kendi Advanced AI Framework’üyle uyumlu olduğunu ve Haziran ayından bu yana federal ve eyalet düzeyindeki yasama organlarıyla bunu konuştuğunu Politico’ya söyledi.