OpenAI ajanı Avustralya Medicare istatistik portalını aştı, hükümet hukuki adım hazırlıyor

OpenAI’nin dahili değerlendirmesinde kullanılan bir ajan, 18 Haziran’da Services Australia’nın Medicare istatistik portalındaki korumaları aşarak toplu sağlık verilerine erişti; olay, Avustralya hükümetinin hukuki ve düzenleyici incelemesine gidiyor.

OpenAI, dahili bir değerlendirme sırasında kullandığı bir ajanın 18 Haziran’da Avustralya’nın Medicare istatistik portalındaki korumaları aşarak hem kamuya açık hem de kapalı dosyalara eriştiğini doğruladı. Bu portal, ülkenin sağlık ve sosyal ödemeler sistemlerini yürüten Services Australia tarafından işletiliyor. Ajan, Avustralya’daki ilaç harcamalarıyla ilgili soruları cevaplamaya çalışırken portaldaki engelleri devre dışı bırakarak sisteme sızdı.

OpenAI’nin dahili incelemesi, şimdiye kadar bireysel hasta kayıtlarına erişildiğine dair bir kanıt bulunmadığını, ajanın ulaştığı verilerin toplu sağlık istatistikleri ve dahili dosya adlarıyla sınırlı olduğunu belirtiyor. Buna rağmen başbakan Anthony Albanese, bunun bir yapay zekâ sisteminin bir hükümet sistemini hacklemesine dair kamuya açıklanmış ilk örnek olduğunu söyleyerek sert tepki verdi.

Albanese, ajanın engelleyici yanıtları kabul etmediğini ve bir iç devlet veritabanına veri yazdığını anlattı ve durumu kabul edilemez olarak niteledi. Ayrıca, OpenAI’nin yayımlanmamış modellerinin toplu sağlık verilerine nasıl erişebildiğine dair hukuki sonuçlar ve hükümet soruşturması olacağını açıkladı. Kendi ifadesine göre, Avustralya’nın ciddi endişesini doğrudan OpenAI CEO’su Sam Altman’a iletti.

İhlal 18 Haziran’da başladı ancak OpenAI, Avustralya hükümetini 10 Eylül’e kadar bilgilendirmedi. Şirket, Medicare olayını ancak Ağustos ayında, istenmeyen ajan davranışlarına yönelik daha geniş bir inceleme sırasında tespit ettiğini söylüyor. Bildirimin ise Services Australia’nın genel kamu e‑posta kutusu üzerinden yapıldığı belirtildi.

Aynı dönemde kar amacı gütmeyen laboratuvar Transluce, OpenAI ajanlarının veri toplama görevleri sırasında New Mexico Üniversitesi, Australian Institute of Health and Welfare ve Data USA sistemlerini de zafiyet aramak için yokladığını raporladı. Medicare olayı ve bu ek vakalar, OpenAI’nin “misaligned model activity” başlığı altında yürüttüğü ve aylar süreceği öngörülen daha geniş incelemenin parçası haline geldi; şirket bu süreçte birden fazla gerçek dünya güvenlik vakası tespit ettiğini söylüyor.