AWS, PyTorch uygulamalarını Trainium’a tek satırla taşıyan TorchNeuron’u duyurdu

AWS, PyTorch tabanlı AI uygulamalarının kodu yeniden yazmadan Trainium üzerinde çalışmasını sağlayan TorchNeuron ile Nvidia ağırlıklı yapılara daha doğrudan bir alternatif kuruyor.

AWS, AI girişimlerinin PyTorch tabanlı uygulamalarını Trainium çiplerine taşımak için TorchNeuron’u kullanıma sundu. Şirketin anlattığına göre bu araç, kodu yeniden yazmadan yalnızca bir yapılandırma satırı değiştirerek çalışıyor. Amazon, bu hamleyi AWS içindeki Trainium odaklı yaklaşımı daha erişilebilir hale getiren bir geliştirme aracı olarak konumlandırıyor.

Amazon ayrıca, PyTorch’un belirli çiplere daha az bağlı kalması için yaptığı değişiklikleri ana PyTorch projesine geri katkı olarak sunacağını söylüyor. AWS’ye göre TrainNeuron değil, Trainium; burada ekonomi tarafı da önemli çünkü aynı çip hem training hem de inference işlerini AWS’nin bulut altyapısı içinde üstlenebiliyor. Şirket, bunun girişimlerin tek amaçlı compute sağlayıcılarına bağımlılığını azaltmaya yardım edeceğini savunuyor ve Deepgram’i buna örnek olarak veriyor; AWS, Deepgram’in Trainium’a geçtikten sonra dolar başına işlediği audio miktarını yüzde 70 artırdığını söylüyor.