Category: Amazon SageMaker

오늘부터 파운데이션 모델(FM) 개발을 위해 복원력을 핵심으로 설계된 목적별 인프라인 Amazon SageMaker HyperPod에서 Amazon Elastic Kubernetes Service(EKS)를 지원하게 되었습니다. 이 새로운 기능을 통해 고객은 EKS를 사용하여 HyperPod 클러스터를 오케스트레이션하고, 대규모 모델 훈련을 위해 설계된 Amazon SageMaker HyperPod의 탄력적인 환경과 Kubernetes의 강력한 성능을 결합할 수 있습니다. Amazon SageMaker HyperPod는 1천여 개의 인공 지능(AI) 액셀러레이터에서 효율적으로 규모를 […]

Amazon Prime Day 2024(7월 17~18일)는 Amazon 역사상 최대 규모의 Prime Day 쇼핑 이벤트로, 행사 기간 이틀 동안 과거 어떤 Prime Day 행사보다 많은 품목이 판매되는 매출 기록을 세웠습니다. 전 세계 Prime 회원들은 35개 이상의 카테고리에서 수백만 건의 거래를 체결하여 수십억 달러를 절약했습니다. 저는 한국에 살고 있지만, 운 좋게도 Prime Day 2024의 AWS Heroes Summit에 참석하기 […]

오늘은 Amazon Bedrock 기반 Llama 3.1 모델이 출시되었다는 소식을 알려드립니다. Llama 3.1 모델은 현재까지 Meta의 가장 진보되고 성능이 뛰어난 모델입니다. Llama 3.1 모델은 광범위한 산업 벤치마크에서 최첨단 성능을 입증하고 생성형 인공 지능(생성형 AI) 애플리케이션을 위한 새로운 기능을 제공하는 8B, 70B 및 405B 파라미터 크기 모델의 모음입니다. 모든 Llama 3.1 모델은 Llama 3 모델의 16배에 달하는 […]

오늘 기계 학습(ML) 개발 수명 주기를 간소화하고 가속화하는 Amazon SageMaker Studio의 새로운 기능을 발표합니다. SageMaker Studio의 Amazon Q Developer는 SageMaker JupyterLab 환경에 기본적으로 내장된 생성형 AI 기반 어시스턴트입니다. 이 어시스턴트는 자연어 입력을 사용하며 각 태스크에 가장 적합한 도구를 추천하고, 단계별 지침을 제공하고, 시작하기 위한 코드를 생성하고, 오류 발생 시 문제 해결을 지원함으로써 ML 개발 수명 […]

오늘 Amazon SageMaker 기반 완전 관리형 MLflow 기능을 정식 출시합니다. 널리 사용되는 오픈 소스 도구인 MLflow는 기계 학습(ML) 팀이 전체 ML 수명 주기를 관리하는 데 중요한 역할을 합니다. 이번 신규 출시를 통해 고객은 이제 몇 단계만으로 MLflow 추적 서버를 손쉽게 설정 및 관리할 수 있어 프로세스를 간소화하고 생산성을 높일 수 있습니다. 데이터 과학자와 ML 개발자는 […]

Amazon SageMaker JumpStart를 사용하는 고객은 이제 Upstage에서 개발한 Solar 파운데이션 모델을 사용할 수 있습니다. Solar 모델은 Amazon SageMaker로 100% 사전 훈련된 대규모 언어 모델(LLM)입니다. 이 모델은 작은 크기지만, 강력하며 언어, 도메인 및 작업 전반에 걸쳐 다용도로 사용할 수 있도록 목적에 맞게 훈련되었습니다. 이제 SageMaker JumpStart 내에서 Solar Mini Chat 및 Solar Mini Chat – Quant […]

이제 개선된 Amazon SageMaker Studio 환경을 발표합니다! 새 SageMaker Studio 웹 기반 인터페이스는 더 빠르게 로드되며, IDE 선택에 관계없이 기본 통합 개발 환경(IDE)과 SageMaker 리소스 및 도구에 대한 일관된 액세스를 제공합니다. JupyterLab 및 RStudio 외에도 SageMaker Studio에는 이제 Code-OSS(Visual Studio Code 오픈 소스) 기반의 완전 관리형 코드 편집기가 포함되어 있습니다. 코드 편집기와 JupyterLab은 모두 유연한 […]

오늘은 Amazon SageMaker HyperPod를 소개합니다. 이 기능은 대규모 분산 교육을 위해 특별히 구축된 인프라를 제공하여 파운데이션 모델(FM) 교육 시간을 감축하도록 지원합니다. 이제 SageMaker HyperPod를 사용하여 몇 주 또는 몇 달 동안 FM을 학습할 수 있고, SageMaker는 클러스터 상태를 능동적으로 모니터링하여 결함이 있는 노드를 교체하고 체크포인트에서 모델 학습을 재개하여 자동화된 노드 및 작업 복원력을 제공합니다. 클러스터는 […]

Amazon SageMaker Clarify에서 이제 파운데이션 모델(FM) 평가(미리 보기)가 지원됩니다. 이제 데이터 과학자 또는 기계 학습(ML) 엔지니어는 SageMaker Clarify를 사용하여 정확성, 견고성, 창의성, 사실적 지식, 편향, 유해성 등의 지표를 기반으로 몇 분 만에 FM을 평가, 비교 및 선택할 수 있습니다. 이 새로운 기능은 SageMaker Clarify의 기존 기능에 추가되어 ML 데이터 및 모델의 편향을 감지하고 모델 예측을 […]

오늘, 배포 비용을 최적화하고 지연 시간을 줄이는 데 도움이 되는 새로운 Amazon SageMaker 추론 기능을 발표합니다. 이 새로운 추론 기능을 사용하면 동일한 SageMaker 엔드포인트에 하나 이상의 파운데이션 모델(FM)을 배포하고 각 FM에 예약되는 액셀러레이터 수와 메모리 양을 제어할 수 있습니다. 이렇게 하면 리소스 활용도를 높이고 모델 배포 비용을 평균 50% 절감하며 사용 사례에 따라 엔드포인트 규모를 […]