Google iki yeni TPU sistemi duyurdu: gizli veri işleme için 8tx ve bellek yoğun ajan iş yükleri için 8i Max
Google, sekizinci nesil TPU ailesine iki yeni sistem ekledi; 8tx düzenlenmiş kurumlar ve kamu kurumları için donanım düzeyinde korumalı çıkarım sunuyor, 8i Max ise çok büyük bağlam pencereleri için iki TPU 8i çipini tek pakette birleştiriyor.
Google, sekizinci nesil TPU ailesine iki yeni sistem ekledi. TPU 8tx, düzenlenmiş sektörlerdeki kurumlar ve kamu kurumları için güvenli ve gizli çıkarım yapmak üzere tasarlandı. TPU 8tx, TPU 8t ile aynı silikonu kullanıyor ve yanında 5. nesil AMD EPYC CPU ana bilgisayarları bulunuyor. Google, bu yapının işlem sırasında hassas verileri ve model ağırlıklarını koruyan, donanım düzeyinde bir izolasyon sağladığını söylüyor. Sistem aynı zamanda tek bir platform üzerinde ince ayar, damıtma ve pekiştirmeli öğrenme yapılmasına da imkân tanıyor. Şirkete göre 8tx, TPU 8t'ye kıyasla gecikmeyi en fazla 2 kat azaltıyor.
TPU 8i Max ise çok büyük bağlam pencereleri ve raf başına yüksek hesaplama yoğunluğu için tasarlandı. Bu model, iki düşük gecikmeli TPU 8i çipini tek bir pakette birleştiriyor. Sonuçta TPU 8i'ye göre hesaplama gücü, SRAM kapasitesi ve HBM bellek bant genişliği iki katına çıkıyor. Hedef, belleğin darboğaz olduğu ajan iş yükleri.
Google, TPU'ların bugün yaklaşık 100 müşteriye hizmet verdiğini ve bu yılın, dört TPU sistemini birden tanıttığı ilk yıl olduğunu belirtiyor. Müşteriler arasında öncü yapay zekâ laboratuvarları, işlem şirketleri, perakendeciler ve üniversiteler yer alıyor.
Neden önemli
Donanım düzeyinde izolasyon sunan bir TPU, hassas verisini bulut üzerinde işlemek zorunda olan düzenlenmiş kurumların önündeki engellerden birini kaldırabilir. Aynı sistemde ince ayar ve pekiştirmeli öğrenmenin yapılabilmesi, model geliştirme sürecini tek platforma toplayabilir. Bellek bant genişliğini iki katına çıkaran 8i Max ise uzun bağlamla çalışan ajanların yavaşlamasını azaltmayı hedefliyor. Bu iki sistemin gerçek performans ve güvenlik kazanımları bağımsız ölçümlerle doğrulanana kadar, Google'ın verdiği gecikme ve bant genişliği oranları üretici iddiası olarak kalıyor.
Önemli mi, abartı mı?
Bu haber gerçekten önemli mi, yoksa abartı mı? Başkalarının ne dediğini görmeden önce sen oy ver.
Kaynaklar · 1
- Google Blog ↗ Birincil kaynak