NVIDIA'nın Vera CPU'su, AI ajanlarında x86 işlemcilerden daha hızlı ve daha verimli olduğunu iddia ediyor

NVIDIA, ajanların GPU ile CPU arasında sürekli iş devrettiği veri merkezleri için tasarlanan Vera'nın, enerji başına daha fazla ajan çalıştırdığını ve bazı erken ortakların testlerinde hız kazandığını bildiriyor.

NVIDIA, Vera CPU'sunun AI ajanları için tasarlandığını açıkladı. Bu ajanlar, işleri sürekli olarak GPU üzerindeki akıl yürütme ile CPU üzerindeki çalıştırma arasında devrediyor. Şirkete göre Vera, AI veri merkezlerinde birim güç başına daha fazla ajanı çalıştırabiliyor.

NVIDIA'nın 100 megavatlık bir veri merkezi karşılaştırmasında, tek bir Vera CPU'nun en hızlı x86 CPU'ya kıyasla watt başına 1,6 kat daha fazla ajan çalıştırdığı bildiriliyor. Aynı karşılaştırmada Vera'nın, en enerji verimli x86 CPU'ya göre 2 kat daha hızlı ajan çalıştırdığı belirtiliyor. Bu rakamlar NVIDIA'nın kendi karşılaştırmalarından geliyor, bağımsız bir ölçümden değil.

Erken ortaklar da kendi testlerinde kazanımlar bildirdi. Perplexity, Vera ile ajan tabanlı kodlama görevlerinin geleneksel CPU'lara göre 1,5 kat hızlı çalıştığını söylüyor ve Vera'yı yakında devreye alacağı bir üretim sistemine eklemeyi planlıyor. DeepInfra, üretim ajan iş yükündeki orkestrasyonda en iyi x86 işlemciye göre 2,2 kata kadar hız artışı yaşadığını bildirdi. Daytona ise Vera ile 1.000 ajan sandbox'ını 10,8 saniyede ayağa kaldırdığını, aynı işin x86 ile 88,4 saniye sürdüğünü açıkladı.