게시된 날짜: Jun 23, 2023
Amazon SageMaker Inference Recommender는 SageMaker ML 인스턴스 전반에서 로드 테스트 및 모델 튜닝을 자동화함으로써 기계 학습(ML) 모델을 프로덕션에 투입하는 데 필요한 시간을 단축하는 Amazon SageMaker의 기능입니다. 오늘 SageMaker Inference Recommender에서는 두 가지 주요 기능을 발표했습니다. 첫째, 이제 SageMaker용 AWS Console에서 Inference Recommender를 사용할 수 있습니다. 둘째, Inference Recommender는 이제 모델 생성 시 모델을 배포할 수 있는 잠재적 인스턴스에 대한 권장 사항을 제공합니다.
이제 고객은 모델 생성 워크플로의 일부로 모델을 배포할 잠재적 인스턴스 목록을 확인할 수 있습니다. 사용자는 사용자 지정 샘플 입력 페이로드로 벤치마킹 또는 로드 테스트 작업을 실행하여 모델 생성 시 제공되는 권장 사항을 최적의 비용이나 성능에 맞춤화할 수 있습니다. 사용자는 권장 인스턴스 목록을 DescribeModel API를 사용하여 프로그래밍 방식으로 보거나 SageMaker 콘솔 UI를 통해 볼 수 있습니다.
또한 이제 AWS Console에서 SageMaker Inference Recommender에 액세스할 수 있습니다. 이전에는 AWS SDK, AWS CLI 또는 SageMaker Studio를 통해서만 고객이 Inference Recommender 작업을 실행할 수 있었습니다. AWS Console을 선호하는 고객은 SDK, Studio, AWS Console을 오가며 권장 사항을 받아야 했고, AWS Console만 사용하는 고객은 권장 사항을 전혀 활용할 수 없었습니다. 이번 출시로 AWS Console 사용자도 이제 콘솔에서 Inference Recommender 작업을 실행하여 잠재적 인스턴스 유형을 확보하고 벤치마킹 작업을 실행하여 비용 및 성능에 최적화된 권장 사항을 얻을 수 있습니다.
이번 출시에 대해 자세히 알아보려면 여기 및 여기에서 설명서를 참조하세요. 시작하려면 Amazon SageMaker 콘솔에 로그인하세요.