Trusence Her iddianın bir kaynağı var
Son güncelleme: 17 Kasım 2026 Ara English
Güvenlik

Güvenlik araştırmacıları popüler Kokoro yapay zeka modelinin Hugging Face hesabını ele geçirdi

Araştırmacılar, modelin ağırlıklarını 87 saniyede değiştirip bozuk çıktı üretmesini sağladı; Hugging Face ise bildirime yanıt vermedi.

Güvenlik araştırmacıları, açık ağırlıklı bir metinden konuşmaya modeli olan Kokoro'nun Hugging Face hesabının kontrolünü ele geçirdi. Geliştiricinin herkese açık DONATE.md dosyasında yer alan alan adını kaydedip giriş parolasını sıfırlayarak erişim sağladılar.

Kokoro, Google, NVIDIA, Intel, AMD ve AWS'nin araçlarında kullanılıyor ve Nisan 2025'ten bu yana güncellenmemesine rağmen aylık yaklaşık 13 milyon indirme alıyor. Kontrollü bir testte ekip, tüketici sınıfı bir GPU üzerinde modelin ağırlıklarını 87 saniyede değiştirerek girdi metninden farklı ses üretmesini sağladı. Bu değişiklikte uygulama koduna dokunulmadı ve herhangi bir kötü amaçlı yazılım imzası tetiklenmedi.

Araştırmacılar değiştirilmiş ağırlıkları yayımlamadı. Ancak ele geçirilmiş bir hesaptan ya da sessizce devralınmış bir hesaptan gelen kötü niyetli bir güncellemenin sıradan bir sürüm gibi görüneceği konusunda uyardılar; Hugging Face yayıncının sahipliğini doğrulamıyor ve yüklenen modelleri incelemiyor. Araştırmacıya göre sorun Hugging Face'e bildirildi, ancak yanıt alınmadı. BleepingComputer da platformdan henüz bir yanıt almadı.

Neden önemli

Yerel ses uygulamaları ve bulut hizmetleri gibi birçok sistem bu modeli doğrudan kullandığı için, bir hesabın ele geçirilmesi bu sistemleri bozuk ağırlıklarla güncelleyebilecek bir yol açıyor. Mühendisler için asıl sorun, değiştirilmiş bir model dosyasının olağan bir sürüm gibi görünmesi ve platformun bunu kontrol etmemesi. Bu durumda model indiren ekiplerin, kullandıkları ağırlıkların kaynağını ve bütünlüğünü kendileri doğrulamaları gerekiyor.

Kaynaklar · 1