OpenAI, Jalapeño ASIC’leri AMD EPYC Turin host’larda kullanıyor
Richard Ho, OpenAI’nin risk azaltma ve hızlı kurulum için Turin’i seçtiğini, Nvidia’nın Vera CPU’sunun ise bu kullanım için henüz yeterince olgun olmadığını söyledi.
OpenAI, Jalapeño ASIC’lerini kendi içinde AMD EPYC Turin host’lar üzerinde ve 1.5TB bellekle devreye alıyor. Bu tercih, şirketin en yeni platformu denemektense donanımı daha düşük riskle ve daha hızlı yayına almayı önceliklendirdiğini gösteriyor.
OpenAI’nin VP ve Hardware başkanı Richard Ho, Turin’in bu iş için yeterince olgun olduğu için seçildiğini ve ekibin gereksiz riski böylece bertaraf ettiğini söyledi. Ho, OpenAI’nin agresif performans ve maliyet hedefleri olduğunu, ancak bunu yaparken gereksiz risk almak istemediğini de ekledi. Haberde, Nvidia’nın Vera CPU’sunun bu tür bir kullanım için henüz yeterince olgun olmadığı belirtiliyor.
Habere göre Turin socketed bir tasarım, Vera ise board-mounted. Bu fark, host servis işlerini Turin tarafında daha kolay hale getiriyor. Haberde ayrıca OpenAI’nin ileride farklı host’lar kullanabileceği de belirtiliyor.
Neden önemli
Bu tercih, OpenAI’nin altyapı kararlarında hız ve olgunluk dengesini nasıl kurduğunu gösteriyor. Turin’in socketed yapısı servis tarafında işleri kolaylaştırırken, Vera’nın henüz yeterince olgun görülmemesi yeni donanımı hemen devreye alma isteğini sınırlıyor. Bu da, benzer sistemler kuran ekipler için seçimin yalnızca performans değil, operasyonel risk ve olgunluk üzerinden de yapıldığını gösteriyor.
Kalsın mı, çizilsin mi?
Bu haber önemli mi, yoksa abartı mı? Başkalarının ne dediğini görmeden önce sen işaretle.
Kaynaklar
- Tom's Hardware