Amazon SageMaker Çıkarım artık çıkarım bileşeni uç noktaları için kesintisiz güncellemeleri destekliyor
Amazon SageMaker Çıkarım artık çıkarım bileşeni (IC) uç noktaları için kesintisiz güncellemeleri destekliyor. Bu sayede müşteriler artık geçmişte olduğu gibi iki kat fazla sayıda bulut sunucusu kullanmak yerine minimum miktarda ekstra bulut sunucusu kullanarak trafikte herhangi bir aksaklık yaşamadan, çalıştırılmakta olan IC uç noktalarını güncelleyebilir. SageMaker Çıkarım, altyapı modeli (FM) dahil ML modellerini dağıtmayı kolaylaştırır. SageMaker Çıkarım kapsamındaki bir özellik olarak sunulan IC, müşterilerin aynı uç noktaya birden fazla FM dağıtabilmesini ve her bir model için hızlandırıcı tahsisini kontrol edebilmesini sağlar.
Önceki mavi/yeşil yükleme yönteminde tüm grupların tek seferde yüklenmesi gerekiyordu. Kesintisiz güncellemelerse artık müşterilerin bir uç nokta içindeki IC'leri grup grup güncelleyebilmesini sağlar. Mavi/yeşil güncellemeler, trafiği eski filodan yenisine kaydırmadan önce güncellenmiş modelle yeni bir IC filosunun sağlanmasını gerektiriyordu ve gerekli bulut sunucusu sayısını etkin bir şekilde iki katına çıkardı. Kesintisiz güncellemelerde yeni IC'ler daha küçük gruplar halinde oluşturulduğundan, güncelleme sırasında artık önemli sayıda daha az bulut sunucusuna ihtiyaç duyulur. Bu, müşterilerin ekstra kapasite maliyetlerini en aza indirmesine ve kapasite ayırma açısından daha kısa bir tedbir süresine ihtiyaç duymasına yardımcı olur.
IC'ye yönelik kesintisiz güncelleme, IC'nin desteklendiği şu bölgelerin tümünde kullanılabilir: Asya Pasifik (Tokyo, Seul, Mumbai, Singapur, Sidney, Cakarta), Kanada (Orta), Avrupa (Frankfurt, Stokholm, İrlanda, Londra), Orta Doğu (BAE), Güney Amerika (São Paulo), ABD Doğu (Kuzey Virginia, Ohio) ve ABD Batı (K. Kaliforniya, Oregon). Daha fazla bilgi için belgelere bakın.