GKE Pod snapshots model başlangıcını 37 saniyeye kadar indiriyor
Google’ın ölçümlerinde başlangıç süresi yüzde 89’a varan oranda kısaldı; geri yüklemede temel çalışma zamanı alanlarının eşleşmesi gerekiyor.
Google, GKE Pod snapshots özelliğini Mayıs ayında, 1.35.3-gke.1234000 veya sonraki sürümleri çalıştıran kümelerde genel kullanıma açtı. Şirketin ölçümlerinde başlangıç süreleri yüzde 89’a kadar azaldı. 70B modelin yüklenmesi 37 saniye, 8B modelin yüklenmesi ise 15 saniye sürdü. Bu sonuçlar, snapshot kullanımının model yükleme süresini ne ölçüde kısaltabildiğini gösteriyor; Google’ın bildirdiği oran en yüksek ölçülen düşüşü ifade ediyor.
Snapshot’tan geri yüklenen bir Pod’un, snapshot’ın temel çalışma zamanı alanlarının hash değeriyle eşleşmesi gerekiyor. Bu nedenle geri yükleme, yalnızca bir snapshot’ın bulunmasına değil, bu alanların eşleşmesine de bağlı. Uygulamaların snapshot öncesinde var olan şifreleme anahtarlarını ve sertifikalarını yeniden oluşturması gerekiyor. Codeway’in DevOps lideri, snapshot’ların başlangıç süresini sekiz saniyeye indirdiğini söyledi. Böylece Google’ın model yüklemelerine ilişkin ölçümlerinin yanında, Codeway de kendi başlangıç süresindeki düşüşü bildirdi.
Neden önemli
Model yükleme sürelerindeki düşüş, GKE üzerinde çalışan iş yüklerinin daha hızlı başlayabileceğini gösteriyor. Ancak snapshot’tan geri yükleme, temel çalışma zamanı alanlarının eşleşmesine bağlı; uygulamaların şifreleme anahtarlarını ve sertifikalarını da yeniden oluşturması gerekiyor. Dolayısıyla snapshot’lar başlangıcı hızlandırırken uygulama durumunu yönetme gereğini ortadan kaldırmıyor.
Sinyal mi, gürültü mü?
Bu haber önemli mi, yoksa abartı mı? Başkalarının ne dediğini görmeden önce sen karar ver.
Kaynaklar
- InfoQ