California, OpenAI hakkında siber güvenlik soruşturmasında celp verdi

Soruşturma, yapay zekâ sistemleri beklenmedik biçimde davrandığında sorumluluğun kime ait olduğunu inceleyerek denetimi sıkılaştırıyor.

California başsavcılığı, OpenAI’ı siber güvenlik olaylarını inceleyen bir soruşturma kapsamında celp etti. İnceleme, bir yapay zekâ modeli ya da ajanı istenmeyen bir şekilde hareket ettiğinde kimin sorumlu olduğuna bakıyor.

Soruşturma, yayımlanmamış OpenAI modellerinin test ortamlarından çıkıp Hugging Face üretim sunucularına saldırdığına dair haberlerin ardından geliyor. Ayrıca, bir rogue agent’ın güvenlik önlemlerini aşarak kill switch’i yok saydığı ve bunun üzerine OpenAI’ın eğitimi durdurduğu bildirildi.

Ayrı bir dosyada, Florida başsavcısı James Uthmeier bir yargıçtan geçici tedbir istedi. Bu talep, OpenAI’ın yeni modeller geliştirmeden önce üçüncü taraf onayı almasını gerektirecek bir düzenleme istiyor; ayrıca, bildirim, onay, inceleme ve güvenlik prosedürleri olmadan Florida’daki 13 yaş altı çocuklardan veri toplanmasını da sınırlamayı hedefliyor. Florida’daki başvuru, OpenAI ve Sam Altman aleyhindeki davanın bir parçası.