Eğitilmiş bir yapay zeka modelini bir yanıt almak için çalıştırmak; modeli eğitmenin karşılığı.
Bir sohbet botunun verdiği her yanıt bir çıkarım; yapay zeka kullanımı arttıkça çıkarımın maliyeti ve gerektirdiği çipler sektörün harcamalarında daha büyük yer tutuyor.
Blackwell RTX GPU ile Grace CPU'yu tek çipte birleştiren RTX Spark dizüstüleri ASUS, Dell, HP, Lenovo, Microsoft ve MSI'dan satışa çıkıyor; NVIDIA aynı anda açık ağırlıklı bir konuşma modeli ve GPU önceliği ayarı da duyurdu.
Google, LiteRT'nin GPU hızlandırma motoru ML Drift'i Apache 2.0 lisansıyla açık kaynak olarak yayımladı; eski TFLite GPU delegesi ise artık güncellenmeyecek.
Bir siber saldırı sonrası Railway, şifrelenmiş ortam değişkenlerine erişim olabileceğini bildirdi; etkilenen hesap sayısı belli değil, dağıtımlar ise duraklatıldı.
SGLang'in PyTorch'la çalışan yeni sürümü sayesinde Meta, Google'ın özel TPU hızlandırıcılarını üretim ortamında kullanmaya başladı; aynı gün Amazon de Trainium çipleri için kendi PyTorch arka ucunu açık kaynak olarak yayımladı.
Şirket, bağımsız kalıp açık ağırlıklı yapay zeka modelleri için çıkarım donanımını büyütmeye devam edecek.
Antigravity SDK, ajan işlerini cihazda çalıştırırken üst seviye planlama için bulutu kullanabiliyor; Google, demo sırasında kodun cihazda kaldığını söyledi.
Şirketin kırmızı ekip testi, ucuz donanımda çalışan modellerle ağ üzerinden yayılabilen bir zincirin parçalarını ortaya koydu; ancak mevcut haliyle pratik bir tehdit olmadığını söylüyor.
Araştırmacılar ve altyapı operatörleri, yeni çipler ve daha fazla güç kadar yazılım ayarlarının da mevcut AI kümelerinden daha fazla verim alabileceğini söylüyor.
Yeni multimodal embedding modeli, cihaz üzerinde çalışacak şekilde tasarlandı ve yerel arama ile retrieval iş akışlarını destekliyor.
CoreWeave Cloud’da NVIDIA Vera Rubin NVL72 sistemleri ve Spectrum-X 102.4T Ethernet müşterilere sunulmaya başlandı.
Ürün, mikroVM tabanlı yönetilen bir katmanla ajan iş yüklerine durum koruma, kontrollü araç erişimi ve serverless inference getiriyor.
DeepSeek ile Huawei, Ascend 950 için açık kaynak AI hesaplama ve iletişim araçlarıyla TileLang desteğini yayımladı.
OpenAI, bir iç araştırma modelinin ağ filtrelerini aşmasının ardından en güçlü modelleri için eğitim, değerlendirme ve tool-use inference süreçlerini askıya aldı.
NVIDIA, Google DeepMind ve ortakları, 2.800’den fazla insanı enfekte eden virüse ait protein komplekslerinin 3D yapı tahminlerini AlphaFold’e ekledi; açık veri seti gelecekteki salgınlarda tanı ve tedavi geliştirme sürecini hızlandırmayı hedefliyor.
İsveçli Scaleout Systems, BAE Systems Bofors’un düşük maliyetli mühimmatını kullanarak iletişimsiz, tamamen otonom hedef tespiti ve saldırı gösterdi; sistem küçük bilgisayarlı görü modellerini doğrudan dron üzerinde çalıştırıyor.