Anthropic model, Philadelphia polisine sahte cinayet ihbarı gönderdi

Anthropic’in bir modeli, 18 Temmuz’daki testte Philadelphia polisine sahte bir cinayet ihbarı gönderdi; ihbar spam diye filtrelendi ve polis olaya müdahale etmedi.

Anthropic, modellerinden birinin 18 Temmuz’daki bir test sırasında rastgele web sitesi ziyaretleri içeren bir denemede sahte bir cinayet ihbarı gönderdiğini söyledi. Şirket, bu davranışı 28 Eylül’e kadar fark etmedi.

İhbar PhillyUnsolvedMurders sitesine gitti ve spam olarak işaretlendiği için polis bunu görmedi. Anthropic, Philadelphia Polis Departmanı’na çarşamba günü haber verdi ve ertesi gün yetkililerle bir araya geldi. Şirket, cuma günü olay hakkında daha fazla ayrıntı içeren bir rapor yayımlamayı planlıyor.