投稿日: Mar 29, 2024
Knowledge Bases for Amazon Bedrock で、カスタムプロンプトを作成して、基盤モデル (FM) によって生成される応答のパーソナライズをより細かく制御できるようになったことをお知らせします。さらに、取得するパッセージの数を設定できます。これにより、FM にコンテキストが追加され、精度が向上します。
プロンプトは、FM が情報を処理して応答を生成する方法に大きな影響を与えます。カスタムプロンプトを使用すると、コンテキスト、ユーザー入力、または出力インジケーターを追加してプロンプトの指示を調整し、ユースケースのニーズにより近い応答をモデルで生成できるようにすることができます。たとえば、出力言語と形式 (「スペイン語で回答を生成」など) を定義して、後処理とオーケストレーションのステップを別々に設定する手間を省くことができます。カスタムプロンプトはオプションのパラメータで、これがない場合はデフォルトのシステムプロンプトが使用されます。
さらに、ユーザーは、取得するパッセージの数を調整することで、最終的な応答を生成するために必要な情報量を制御できるようになりました。長い入力テキストを小さなセグメント、つまりパッセージに分割するプロセスをチャンキングと呼びます。以前は、ナレッジベースをクエリすると、Retrieve API は最大 5 つのチャンクを返していました。Knowledge Bases では、最大 100 個のチャンクの取得がサポートされるようになり、より関連性の高い包括的な情報を取得できるようになりました。
これら 2 つの機能は、米国東部 (バージニア北部) と米国西部 (オレゴン) の AWS リージョンで利用できるようになりました。詳細については、Knowledge Bases for Amazon Bedrock のドキュメントをご覧ください。開始するには、Amazon Bedrock コンソールにアクセスするか、RetrieveAndGenerate API と Retrieve API を利用してください。