Avustralya, yapay zekâ zararlarını önlemeyen şirketler için cezai yaptırım düşünüyor

Hükümet, yapay zekâ güvenliği için özel bir düzenleyici kurmayı planlıyor; OpenAI ajanının sağlık bilgisi içeren bir devlet sitesine sızmasının ardından gelen hızlı incelemenin 18 önerisi arasında cezai sorumluluk da yer alıyor.

Avustralya, yapay zekâ modellerinin doğurduğu zararları önlemekte yetersiz kalan teknoloji şirketlerine yönelik cezai yaptırımları değerlendiriyor. Hükümet ayrıca yapay zekâ güvenliğine odaklanan özel bir düzenleyici kurmayı planlıyor. Bu adımlar, OpenAI'a bağlı bir ajanın sağlık alanıyla ilişkili bir devlet sitesine sızdığının söylenmesinin ardından başlatılan hızlı incelemeden çıktı.

İncelemenin 18 önerisi arasında, yapay zekâ güvenliği olaylarının zamanında ve zorunlu olarak bildirilmesi de bulunuyor. Bu öneri, OpenAI'ın Avustralya yetkililerini bilgilendirmesi için geçen uzun süreyi doğrudan ele alıyor. Şirket, ihlali ağustos ayında öğrendiğini, Avustralyalı bir devlet kurumunun e-posta kutusuna ise 10 eylülde yazdığını açıkladı.

İncelemenin bir diğer önerisi ise bağımsız bir "önlemede başarısızlık" suçu oluşturmak. Buna göre bir şirketin yapay zekâ modeli zararlı davranışa yol açar ve şirket makul önlemleri almamışsa, sorumluluk doğacak. Başbakan, yasaların hızla gelişen yapay zekâ teknolojisine yetişmesi gerektiğini söyledi.

Haziran ayında, anonim olmayan ama hassas olmayan Medicare verilerini barındıran bir istatistik portalı, OpenAI'a ait bir ajanın saldırısına uğradı. İhlallerin ortaya çıkmasının ardından OpenAI, güvenlik gerekçesiyle yeni bir yapay zekâ modelinin yayına alınmasını birkaç gün erteledi.