Amazon Web Services 한국 블로그
Amazon SageMaker Canvas – 대규모 비즈니스 분석을 위한 파운데이션 모델 활용
오늘은 Amazon Bedrock과 Amazon SageMaker Jumpstart의 파운데이션 모델(FM)을 코드 없이 사용할 수 있는 Amazon SageMaker Canvas의 새로운 기능을 소개합니다. 이 새로운 기능을 사용하면 특정 사용 사례에 대한 FM의 응답을 매우 정확하게 평가하고 생성할 수 있습니다.
모든 기업에는 고유한 도메인별 단어집이 있는데, 일반 모델은 이러한 단어집을 이해하거나 이에 응답하도록 훈련되지 않았습니다. Amazon SageMaker Canvas의 새로운 기능은 이러한 격차를 효과적으로 해소합니다. SageMaker Canvas가 모델을 훈련하므로 회사 데이터를 사용하여 코드를 작성하지 않아도 비즈니스 도메인 및 사용 사례(예: 마케팅 분석 완료)가 모델 출력에 반영됩니다. 미세 조정 프로세스의 경우 SageMaker Canvas는 계정에 새로운 사용자 지정 모델을 생성하며, 미세 조정에 사용된 데이터는 원본 FM의 훈련에 사용되지 않으므로 데이터 프라이버시가 보장됩니다.
올해 초에 파운데이션 모델(FM)을 포함하도록 Amazon SageMaker Canvas에서 즉시 사용 가능한 모델에 대한 지원이 확대되었습니다. 이를 통해 코드 없는 인터페이스를 사용하여 Claude 2, Amazon Titan, Jurassic-2(Amazon Bedrock 지원)와 같은 FM은 물론 Falcon 및 MPT(Amazon SageMaker JumpStart 지원)와 같은 공개 모델에 액세스하고 평가하고 쿼리할 수 있습니다. 또한 이러한 경험을 확장하여 FM을 쿼리하여 Amazon Kendra와 같은 기업 문서 인덱스에 있는 문서 세트에서 인사이트를 얻을 수 있도록 했습니다. FM을 쿼리하는 것도 중요하지만 사용 사례에 대한 응답과 인사이트를 생성하는 FM을 구축할 수 있어야 합니다. 오늘부터는 FM을 구축하는 새로운 기능을 통해 사용자 지정 응답을 생성해야 하는 사용 사례를 해결할 수 있습니다.
시작하려면 SageMaker Canvas 애플리케이션을 열고 왼쪽 탐색 패널에서 My models(내 모델)를 선택합니다. New model(새 모델) 버튼을 선택하고 Fine-tune foundation model(파운데이션 모델 미세 조정)을 선택한 다음 Create(생성)를 선택합니다.
훈련 데이터 세트를 선택하고 조정할 모델을 최대 3개까지 선택할 수 있습니다. 프롬프트 텍스트가 있는 입력 열과 원하는 출력 텍스트가 있는 출력 열을 선택합니다. 그런 다음 Fine-tune(미세 조정)을 선택하여 미세 조정 프로세스를 시작합니다.
미세 조정 프로세스가 완료되면 SageMaker Canvas에서 펄플렉서티(Perplexity) 및 손실 곡선, 훈련 손실, 검증 손실 등과 같은 다양한 지표를 사용하여 미세 조정된 모델을 분석할 수 있습니다. 또한 SageMaker Canvas는 생성된 모델의 모델 품질 관련 지표를 측정하고 비교할 수 있는 모델 순위표를 제공합니다.
이제 모델을 테스트하고 응답을 원래 파운데이션 모델과 비교할 준비가 되었습니다. 테스트하려면 분석 페이지에서 Test in Ready-to-use models(바로 사용할 수 있는 모델에서 테스트)를 선택합니다. 미세 조정된 모델이 자동으로 배포되어 이제 채팅과 응답 비교에 사용할 수 있게 되었습니다.
이제 사용 사례에 맞는 인사이트를 생성하고 평가할 준비가 되었습니다. 단 한 줄의 코드도 작성하지 않고도 이 작업을 수행할 수 있으니 더욱 좋습니다.
자세히 알아보기
직접 구축해보세요!
– Irshad
PS: 게시물 제목 아래에 이름이 하나만 표시되더라도 AWS 블로그 게시물은 항상 팀의 노력을 통해 작성됩니다. 이 게시물에서는 기술 지원을 제공해 준 Shyam Srinivasan에게 감사드립니다.