يدعم استدلال Amazon SageMaker الآن التحديثات المتداولة لنقاط نهاية مكونات الاستدلال
يدعم استدلال Amazon SageMaker الآن التحديثات المتداولة لنقاط نهاية مكونات الاستدلال (IC). يتيح ذلك للعملاء تحديث نقاط نهاية IC قيد التشغيل دون انقطاع حركة المرور واستخدام الحد الأدنى من المثيلات الإضافية، بدلاً من طلب مثيلات مضاعفة كما كان الحال في الماضي. يسهّل استدلال SageMaker نشر نماذج ML، ومنها نماذج التأسيس (FMs). باعتبارها إحدى إمكانات استدلال SageMaker، يسمح مكون الاستدلال (IC) للعملاء بنشر العديد من نماذج التأسيس (FMs) على نقطة النهاية نفسها والتحكم في تخصيص مسرع لكل نموذج.
تتيح التحديثات المتداولة للعملاء الآن تحديث مكونات الاستدلال ضمن نقطة النهاية دفعة تلو الأخرى، بدلاً من جميعها مرة واحدة مثل طريقة التحديث Blue/Green السابقة. تطلبت تحديثات Blue/Green تزويد أسطول جديد من مكونات الاستدلال بالنموذج المحدّث قبل تحويل حركة المرور من الأسطول القديم إلى الأسطول الجديد، وهذا يؤدي إلى مضاعفة عدد المثيلات المطلوبة بشكل فعال. بفضل التحديثات المتداولة، يتم إنشاء مكونات الاستدلال الجديدة على دفعات أصغر، وهذا يقلل بشكل كبير من عدد المثيلات الإضافية المطلوبة أثناء التحديثات. يساعد ذلك العملاء في تقليل التكاليف من السعة الإضافية والحفاظ على متطلبات التخزين المؤقت الأقل حجمًا في حجوزات السعة الخاصة بهم.
يتوفر التحديث المتداول لمكون الاستدلال في جميع المناطق التي يتم فيها دعمه: آسيا والمحيط الهادئ (طوكيو، سيول، مومباي، سنغافورة، سيدني، جاكرتا) وكندا (الوسطى) وأوروبا (فرانكفورت، ستوكهولم، أيرلندا، لندن) والشرق الأوسط (الإمارات العربية المتحدة) وأمريكا الجنوبية (ساو باولو) وشرق الولايات المتحدة (شمال فيرجينيا، أوهايو)، وغرب الولايات المتحدة (شمال كاليفورنيا، أوريجون). لمعرفة المزيد، راجع الوثائق.