Google ve Meta, PyTorch'u TPU'larda yerel çalıştıran TorchTPU'yu açık kaynak yaptı

Eski PyTorch/XLA köprüsünün gerektirdiği kapsamlı kod değişiklikleri olmadan modeller artık Google'ın TPU'larında çalışabilecek; ancak yalnızca bir satırlık cihaz değişikliği modeli çalıştırmaya yetiyor, ayarlamaya değil.

Google ve Meta, PyTorch Conference North America 2026'da Google'ın Tensor Processing Unit'leri için yerel bir PyTorch arka ucu olan TorchTPU'yu açık kaynak olarak yayımladı. TorchTPU, eski PyTorch/XLA köprüsünün aksine modellerde kaynak koduna müdahale edilmesini gerektirmiyor. PyTorch'u geliştiren Meta, daha büyük LLM iş yüklerini bu araçla TPU'lara taşımayı planlıyor.

Yayımlanan depo sayısı dört: TorchTPU, vLLM-TorchTPU, SGLang-TorchTPU ve TorchTitan. Google'ın paylaştığı bir benchmark sonucuna göre, 8.192 TPU v7x çipi üzerinde çalıştırılan bir Qwen3 235B karışık uzman (mixture-of-experts) modeli, yüzde 28 model FLOPs kullanım oranına ulaştı. Kaynaklar ise tek satırlık bir cihaz değişikliğinin modeli çalıştırabildiğini, ancak ayarlamadığını vurguluyor: TPU'nun tepe performansına, model şekilleri ve sharding GPU'lar için ayarlanmışsa, yalnızca bu değişiklikle ulaşılmıyor.

Google ayrıca GitHub'da bir TPU ajan paketinin önizlemesini yaptı. Bu paket, kurulum, tanılama ve performans ayarlama işlerini otomatikleştirmek için kodlama araçlarına bağlanabiliyor.

Geliştiriciler için pratik sonuç şu: sharding ve kernel çalışmaları için bütçe ayırmak ve bir projeye başlamadan önce TPU kapasitesini doğrulamak gerekiyor.