Bernie Sanders’tan yapay süperzekâyı yasaklayan ve 20 yıla kadar hapis öngören tasarı

Ban Artificial Superintelligence Act, insanlığı yok etme veya etkisizleştirme riski taşıyan sistemleri suç saymayı ve gelişmiş modeller için devlet kontrollü lisans rejimi kurmayı hedefliyor.

ABD Senatörü Bernie Sanders ve Temsilciler Meclisi üyesi Greg Casar, yapay süperzekâ geliştirilmesini yasaklamayı amaçlayan Ban Artificial Superintelligence Act adlı bir tasarı sundu. Tasarı, bu düzeydeki yapay zekâyı, insanlığı yok etme ya da etkisizleştirme, hatta hükümeti devirmeye kadar giden bir tehdit oluşturabilecek sistemler olarak tanımlıyor.

Tasarının dili, yapay süperzekâ geliştirmeye devam eden yapay zeka şirketlerinin liderlerini, bireysel olarak sorumlu hale getiriyor. Bu çerçevede, yasağa rağmen yapay süperzekâ geliştiren liderler için 20 yıla kadar hapis cezası öngörülüyor.

Metin, yalnızca yapay süperzekâ değil, “gelişmiş” olarak sınıflanan daha geniş bir frontier model grubunu da hedef alıyor. Belirli bir veri eşiğinin üzerinde eğitilmiş frontier modeller bu kategoriye giriyor ve bu sistemlerin geliştirilmesi tasarı yürürlüğe girdiğinde durdurulacak.

Gelişmiş yapay zeka geliştirme çalışmaları, ancak yeni bir federal kurum kurulduktan sonra yeniden başlayabilecek. Tasarı, bilim insanlarının liderlik ettiği bir Department of Artificial Intelligence kurulmasını şart koşuyor ve bu kurumun teknolojiyi gözetmesini öngörüyor.

Önerilen Department of AI, frontier modelleri izlemek, tehlikeli özelliklerin kaldırılmasını sağlamak ve ortaya çıkması halinde yapay süperzekânın imhasını denetlemekle görevlendirilecek. Kurumun onayı olmadan gelişmiş yapay zeka modeli geliştirmek mümkün olmayacak.

Tasarıya göre yapay zeka şirketlerinin liderleri, kurumdan izin almadan gelişmiş modeller geliştirdikleri ya da diğer kuralları ihlal ettikleri takdirde 20 yıla kadar hapis cezasıyla karşı karşıya kalabilir. Bu yaptırım, yasadışı nükleer silah geliştirmeye uygulanan cezalara benzetiliyor ve yalnızca şirket yöneticileriyle sınırlı değil.

Aynı 20 yıllık ceza, herhangi bir şirkete bağlı olmayan, kuralları çiğneyen diğer “rogue actor”lar için de geçerli olacak. Sanders, insanlığın geleceği söz konusuyken yapay zeka konusunda kuralları Büyük Teknoloji şirketlerinin CEO’larının belirlememesi gerektiğini savunuyor.