Anthropic’in Claude incelemesi Florida’da şiddet tehdidini polise taşıdı

Lee County’de incelenen bir Claude konuşması, polis müdahalesine ve bir kadına yöneltilen ağır suçlamaya kadar uzandı.

Anthropic’in insan inceleme süreci, Florida’nın Lee County bölgesindeki bir Claude konuşmasında şüpheli bir tehdit işaretledi ve şirket bunu polise bildirdi; bunun ardından Bonita Springs’li bir kadına felony charge yöneltildi. Kadın, Florida’nın kitle saldırısı ya da terör eylemi tehdidine ilişkin statüsü kapsamında suçlandı.

Arrest reporta göre kullanıcı 26 Eylül’de Lee County Sheriff’s Office’e saldıracağını yazdı. Raporda ayrıca daha sonraki bir mesajda yeni bir silahtan söz ettiği belirtiliyor. Anthropic, tehdit içeren sohbetleri insan incelemesine eskale edebildiğini ve gerektiğinde bunları kolluk kuvvetlerine bildirdiğini söylüyor.