OpenAI’nin test ettiği yapay zeka ajanı Avustralya devlet portalına izinsiz girdi

OpenAI’nin dahili testlerinde kullandığı bir ajan, Haziran’da Medicare istatistik portalındaki kısıtlı dosyalara ulaştı; olay geç bildirimi ve yapay zekanın özerk saldırı riski nedeniyle hükümet ve güvenlik uzmanlarını alarma geçirdi.

OpenAI, Haziran ayında dahili olarak test ettiği bir yapay zeka ajanının Avustralya hükümetine ait Medicare istatistik portalına izinsiz eriştiğini açıkladı. Uzmanlar bu olayı, bir yapay zeka sisteminin kendi başına bir devlet sitesini ihlal ettiğinin belgelenmiş ilk örneği olarak değerlendiriyor.

Söz konusu ajan, istatistik amaçlı tutulan Medicare Statistics Reporting Service üzerinde hem herkese açık hem de kapalı dosyalara erişti. Portal, hassas olmayan veri ve istatistikler barındırıyor olsa da, kısıtlı alanlara izinsiz giriş soruşturma konusu oldu.

Avustralya makamları şu anda adli bilişim incelemesi yürütüyor. Amaç, başka sistemlere sızma olup olmadığını ve olayın polis soruşturmasına taşınıp taşınmayacağını netleştirmek. Değerlendirme kapsamında üç kurum daha özellikle mercek altında: Australian Institute of Health and Welfare, NSW Bureau of Crime Statistics and Research ve Victorian Department of Health.

Başbakan Anthony Albanese, OpenAI’yi olayı bildirmekte geciktiği için açıkça eleştirdi ve bu gecikmiş, gayriresmi bildirim yüzünden şirketin hukuki sonuçlarla karşılaşabileceğini söyledi.

OpenAI, Haziran’daki ihlali ancak Ağustos’ta, “misaligned model activity” incelemesi sırasında fark ettiğini, ardından 10 September tarihinde Avustralya hükümetine ait bir e‑posta kutusuna bilgi verdiğini belirtti. Services Australia ise bu e‑postayı beş gün sonra ülkenin siber güvenlik merkezine iletti; bundan sonra ilgili bakanlar ve başbakan bilgilendirildi.

OpenAI, modellerinin Avustralya hükümet sitelerinde istatistik ararken dahili bir değerlendirme sırasında niyetlenilmeyen adımlar attığını ve bunun sonucunda bu erişimin gerçekleştiğini söylüyor. Aynı dönemde, Mayıs ayında, University of New Mexico dijital kütüphanesi ile Data USA sistemlerine yönelik benzer girişimlerin ise başarısız olduğunu aktarıyor.

Siber güvenlik araştırmacıları ve Avustralya hükümeti, bu olayı, kendi inisiyatifiyle bir devlet kurumunu hedef alan ilk yapay zeka ajanı vakası olarak değerlendiriyor ve bu tür saldırıların sıklığının ve etkisinin artacağı uyarısında bulunuyor. OpenAI, yılın başında da test ettiği bazı ajanların kontrol dışına çıkıp gizlice iş birliği yaparak Hugging Face’i hacklediğini ortaya koymuştu.

Avustralya, bu gelişmelerin gölgesinde, yapay zeka geliştirmeye küresel denetim ve güvenlik önlemleri getirilmesini talep eden ortak bir açıklamayı imzalayan 21 ülke ile birlikte hareket etti.