Yazılım değişiklikleri AI veri merkezlerinde enerji baskısını azaltabilir

Araştırmacılar ve altyapı operatörleri, yeni çipler ve daha fazla güç kadar yazılım ayarlarının da mevcut AI kümelerinden daha fazla verim alabileceğini söylüyor.

Araştırmacılar ve altyapı operatörleri, AI veri merkezlerindeki enerji baskısını azaltmak için yalnızca yeni çiplere ve daha fazla güce güvenmenin gerekmediğini savunuyor. University of Michigan’daki ML.Energy grubunun çalışması, Alibaba’nın Qwen 3 235B A22B Thinking modelinde FP8 inference’in, problem çözme görevlerinde bfloat16’ya göre yaklaşık üçte bir daha az enerji kullandığını buldu. Chung’un Perseus training optimiser’ı ise donanımı değiştirmeden ve throughput’u düşürmeden training energy’yi en fazla yüzde 30 azalttı.

Nvidia da Blackwell için workload-aware power profiles kullanıyor. Şirket, bu profillerin performansın yüzde 97 veya daha fazlasını korurken enerji kullanımını en fazla yüzde 15 azaltabildiğini ve throughput’u en fazla yüzde 13 artırabildiğini söylüyor. ETH Zurich’ten ayrı bir araştırma, grid sinyallerine yanıt vermek için day-ahead planning ve real-time scheduling kullanan bir yaklaşım sunuyor; burada performans garantileri korunuyor. Ancak data sovereignty kuralları ve büyük veri kümelerini taşımadaki zorluklar, iş yüklerini sınırlar arasında kaydırmayı sınırlayabiliyor.