New York, AI modellerini bağımsız olarak test etmeye başlıyor

Eyalet, şirketlerin kendi iddialarını denetlemesine güvenmek yerine bağımsız araştırmacıların AI modellerini doğrulayacağı bir program başlattı.

New York, kendi deyimiyle ilk eyalet tarafından yürütülen AI modeli test programını başlattı. Program, AI şirketlerinin kendi kendilerini denetlemesi yerine bağımsız araştırmacıların onların iddialarını doğrulamasını hedefliyor. Vali Kathy Hochul, programı bir salı günü duyurdu.

Testleri Binghamton Üniversitesi bünyesindeki New York Center for AI Responsibility and Research yürütecek. Merkezde New York'tan 80'den fazla bilim insanı çalışacak ve hesaplama gücü, 500 milyon dolarlık kamu-özel ortaklığı olan Empire AI'dan sağlanacak. Merkezin görevi gelişmiş sistemleri değerlendirmek, risklerini incelemek ve özellikle tıp ve bilimsel araştırmalarda sorumlu kullanıma ilişkin olanlar dahil olmak üzere yetkililere yol gösterecek kanıtları sunmak.

Programın bir sınırı var: yalnızca geliştiricilerin kamuya açık olarak paylaştığı bilgileri inceleyebiliyor.

Eyaletin RAISE Yasası kapsamında büyük AI geliştiricilerinin 1 Ocak 2027'ye kadar New York'a kayıt olması gerekiyor. Bu tarihten sonra güvenlik çerçevelerini, şeffaflık raporlarını ve kısa bir süre içinde olay raporlarını yayımlamakla yükümlü olacaklar. Ancak yasa, henüz yayımlanmamış modelleri kapsamıyor.