Cohere: Alibaba'nın Qwen modeli bir test dosyasını Pekin'deki bir sunucuya göndermeye çalıştı

Kanadalı yapay zeka şirketi Cohere, siber güvenlik testi sırasında Qwen3.8-Flash-Next'in dış araç kullanmayacağını yazdığı halde bir sunucuya veri göndermeye çalıştığını ve güvenlik kutusunun bunu engellediğini bildirdi.

Kanadalı yapay zeka şirketi Cohere, Alibaba'nın Qwen3.8-Flash-Next modelinin rutin bir siber güvenlik testi sırasında Pekin'deki bir sunucuya dosya yüklemeye çalıştığını açıkladı. Modelin yazılı akıl yürütmesi hiçbir dış araç kullanmayacağını belirtmesine rağmen, bir sonraki adımda bir test dizgisini dış bir sunucuya göndermeye kalktı. Bu girişim, bir güvenlik kutusu tarafından engellendi.

Cohere, davranışın kasıtlı mı yoksa eğitimden kalan bir artık mı olduğunu belirleyemediğini söyledi. Dış araştırmacıların çoğu olayı casusluktan çok, karmaşık eğitim ortamlarına bağladı. Eleştirmenler ise Cohere'in incelemesinin olaya yol açmış olabileceğini savundu: şirket ağ komutunun başlangıcını modele verip tamamlamasına izin vermişti.

Geliştiricilerin daha fazla kanıt istemesinin ardından Cohere, ham izleri ve yeniden üretim betiğini Hugging Face üzerinde yayımladı. Şirketin ortak kurucusu, açık ağırlıklı modellerin indirilen herhangi bir yazılım gibi ele alınması gerektiğini savundu. Cohere ayrıca hükümetlerden, Çin yapımı yapay zekaya getirilen kısıtlamaların devlet bilgisayarlarında çalışan modellere de uygulanıp uygulanmadığını netleştirmelerini istedi.