Cloudflare'in Auto Router'ı herkese açık betada: her istek için model otomatik seçiliyor

Cloudflare'in AI Gateway üzerindeki Auto Router'ı public beta'ya girdi; model cloudflare/auto olarak ayarlandığında bir sınıflandırıcı her istek için uygun modeli seçiyor ve beta süresince ücretsiz.

Cloudflare, Auto Router'ı AI Gateway üzerinden herkese açık beta'ya aldı. Modeli cloudflare/auto olarak ayarlayan geliştiriciler için bir sınıflandırıcı her istek için ayrı bir model seçiyor. Yönlendirici önce format desteği, kimlik bilgileri, faturalandırma, erişim kuralları ve harcama limitlerine göre bir aday havuzu daraltıyor. Ardından Workers AI üzerinde çalışan çok başlıklı bir sınıflandırıcı, her isteği 14 görev kategorisi ile karmaşıklık, belirsizlik, risk ve önceki bağlama bağımlılık açısından puanlıyor.

Cloudflare'in 97 görevi kapsayan karşılaştırmasına göre, bu model karışımı temel harcamanın kabaca üçte birine mal oluyor; buna karşılık güvenilirlikte yaklaşık on puan kayıp var. Bu dengeyi her ekip kendisi tartmak zorunda kalacak. Uygulayıcılar iki noktaya dikkat çekti: riskin yalnızca son turlardan değerlendirilmesi, oturumun başında kurulmuş riskli bir eylemin düşük riskli gibi yönlendirilebileceği anlamına geliyor. Ayrıca varsayılan havuz ve puanlama ağırlıkları modeller değiştikçe kayabilir.

Beta süresince hizmet ücretsiz; beta sonrası fiyat açıklanmış değil. WebSocket desteklenmiyor.