Meta Llama 3.1 生成 AI モデルが Amazon SageMaker JumpStart で利用可能に
これまでで最も高度で高性能な Meta Llama モデル である Llama 3.1 が Amazon SageMaker JumpStart で利用できるようになりました。SageMaker JumpStart は、機械学習 (ML) をすぐに使用するのに役立つ、事前トレーニング済みモデル、組み込みアルゴリズムを提供する ML ハブです。この Llama 3.1 モデルは、SageMaker Studio での数回クリックで、または SageMaker Python SDK を介してプログラムによって、実装して使用できます。
Llama 3.1 モデルは、トレーニングデータとスケールの増加により、以前のバージョンに比べて大幅に改善されています。このモデルは 128 K のコンテキスト長をサポートしていますが、これは Llama 3 から 120 K トークン増加しています。Llama 3.1 モデルの容量は Llama 3 モデルの 16 倍で、8 言語の多言語対話ユースケースに対する推論が改善されています。このモデルは長いテキストからより多くの情報にアクセスして、より多くの情報に基づいた意思決定を行い、より豊富なコンテキストデータを活用してより洗練された回答を生成できます。Meta によると、Llama 3.1 405B は公開されている中で最大の基盤モデルの 1 つであり、合成データの生成とモデルの蒸留に非常に適しており、どちらの場合も小規模な Llama モデルを改善することができます。合成データを使用してモデルを微調整するには、Meta のライセンスに従う必要があります。詳細については、EULA をお読みください。すべての Llama 3.1 モデルは、一般知識、数学、ツールの使用、多言語翻訳における最先端の機能を備えています。
Llama 3.1 モデルは現在、米国東部 (オハイオ)、米国西部 (オレゴン)、および米国東部 (バージニア北部) の 各 AWS リージョンの SageMaker JumpStart でご利用いただけます。SageMaker JumpStart で Llama 3.1 モデルの利用を開始するには、ドキュメントとブログを参照してください。