Amazon Bedrock ナレッジベースが Llama 3.1 の 405B、70B、8B のサポートを開始

投稿日: 2024年8月29日

Amazon Bedrock ナレッジベースは、検索拡張生成 (RAG) のために基盤モデル (FM) を社内データソースに安全に接続することで、適切で状況に応じた正確な応答を提供します。Meta の Llama 3.1 ファミリーの基盤モデル (405B、70B、8B) がナレッジベースで一般公開されました。

Llama 3.1 は Meta の次世代最先端モデルで、128,000 トークン (約 96,000 語、つまり 192 ページの資料) のコンテキスト長をサポートしています。Llama 3.1 モデルは、複雑な推論、迅速な出力、RAG を必要とするタスクに最適です。Llama 3.1 は、フルマネージド型の RetrieveAndGenerate API を通じてサポートされています。

Llama 3.1 の 405B、70B、8B モデルでの Amazon Bedrock ナレッジベースが、米国西部 (オレゴン) AWS リージョンで一般利用できるようになりました。詳細については、AWS ニュースブログの公開記事と Amazon Bedrock での Meta Llama のページをご覧ください。開始するには、Amazon Bedrock のナレッジベースのドキュメントを参照するか、Amazon Bedrock コンソールにアクセスしてください。