Meta Muse, AMD EPYC Turin tabanlı CPU-only sandbox’larda çalışıyor

Muse ajanı, her sandbox için iki çekirdek ve 8GB bellek ayrılan AMD EPYC Turin sunucularda çalışıyor; çıkarım içinse ayrı GPU sunucuları kullanılıyor.

Meta’nın Muse ajanı, altyapı tarafında AMD EPYC Turin tabanlı sunucular üzerinde izole CPU-only sandbox ortamlarında çalışıyor. Her bir sandbox’a iki özel çekirdek ve 8GB bellek ayrılıyor, böylece her ajan örneği için sabit donanım kaynakları tanımlanmış oluyor. Hoffman ve Kim’in incelediği sanal makineler, AMD EPYC 9D25 işlemci raporluyor.

Muse için kullanılan bu sandbox ortamları yalnızca CPU ile sınırlı; model çıkarımı işlemleri ise Meta’nın ayrı GPU sunucularında yürütülüyor. Böylece ajanların koştuğu ortam ile asıl yapay zeka çıkarım yükünü taşıyan altyapı birbirinden ayrılmış durumda. Kullanıcı tarafında Muse’un kullanımı büyümeye devam ediyor; hizmet kısa süre önce günlük 500,000 aktif kullanıcı eşiğini geçmişti.

Evan Hoffman, Muse’un kendi özel sanal makinesine SSH erişimi ayarlamayı teklif ettiğini aktarıyor. Haberde, bu erişim üzerinden teorik olarak daha zararlı komutlara gidebilecek bir yol tarif edilse de, raporun yazıldığı ana kadar böyle bir kötüye kullanım gerçekleşmiş değildi.