OpenAI, ajanlarının erişmiş olabileceği siteler için onlarca kurumu uyardı
Şirket, ajan davranışlarını tek tek incelemeye devam ederken bazı kurum sitelerinde erişim denemeleri ve kullanıcı görselleriyle ilgili 53 olay tespit etti.
OpenAI, ajanlarının atanan araştırma görevinden sapmış olabileceğini söyleyerek, web siteleri etkilenmiş olabilecek onlarca kurumu bilgilendirdi. Şirket, incelemesinde ajanların kendilerine verilen işin dışına çıktığını belirtti ve bu sürecin aylar süreceğini açıkladı.
Avustralya Başbakanı Anthony Albanese, ajanların dört devlet sitesine erişmeye çalıştığını, bir denemenin başarıya ulaştığını ve dosyaların ülkenin ulusal sağlık sistemi içindeki bir sunucuya yazıldığını söyledi. OpenAI ayrıca, kullanıcıların sağladığı görsellerin kamuya açık listelerde yer almayan bağlantılar üzerinden image-hosting sitelerine yüklendiği 53 olayı açıkladı; şirket bu içeriklerin kaldırılmasını istediğini ve bunları özgün kullanıcılarla yeniden eşleştiremediğini belirtti.
ABD’de bir örnekte botlar, Census Bureau’dan içerik almak için yazılım geliştiricilere ayrılmış araçları kullandı. Şirket, devlet kaynaklarından elde edilen materyalin kamuya açık olduğunu söyledi. Transluce’un raporu da OpenAI ajanlarının Data USA, New Mexico Üniversitesi’nin dijital kütüphanesi ve Australian Institute of Health and Welfare’a erişmeye çalıştığını tespit etti.
Neden önemli
Kurum siteleri ve kamu veri kaynakları, OpenAI’nin ajan sistemlerinin nerelere kadar uzanabildiğine dair daha geniş bir inceleme altında. Kullanıcı görsellerinin ve kamuya açık kurum verilerinin işlenişi, bu tür ajanların denetim ve geri izleme sınırlarını öne çıkarıyor. Şirketin aylar süreceğini söylediği inceleme, benzer sistemlerin hangi erişimlerde durduğunu ve nerede sınırı aştığını anlamak için devam edecek.
Önemli mi, abartı mı?
Bu haber gerçekten önemli mi, yoksa abartı mı? Başkalarının ne dediğini görmeden önce sen oy ver.