Guardrails for Amazon Bedrock、任意の FM を使用してハルシネーションを検出し、アプリを保護可能に
Guardrails for Amazon Bedrockを使用すると、お客様のアプリケーション要件と責任ある AI ポリシーに基づいて安全対策を実装できます。現在、ガードレールにはコンテキストグラウンディングチェックが追加され、あらゆる基盤モデル (FM) を使用して信頼できる生成 AI アプリケーションを構築するための新しい ApplyGuardRail API が導入されました。
お客様は、FM に本来備わっている機能を利用して、企業のソースデータに基づいた根拠のある (信頼できる) 応答を生成します。ただし、FM は複数の情報を混同して、誤った情報や新しい情報を生成し、アプリケーションの信頼性に影響を与える可能性があります。コンテキストグラウンディングチェックにより、ガードレールは RAG (検索拡張生成) や会話型アプリケーションのモデル応答でハルシネーションを検出できるようになりました。この安全対策は、リファレンスソースに基づいて事実上正しくなく、ユーザーのクエリとは無関係な応答を検出してフィルタリングするのに役立ちます。お客様は信頼度閾値を設定して、根拠や関連性の信頼度の低い回答をフィルタリングできます。
さらに、さまざまな FM を使用する保護アプリケーションの選択肢をサポートするため、ガードレールは ApplyGuardrail API をサポートするようになりました。これにより、Amazon Bedrock ですでにサポートされている FM に加えて、任意のカスタム FM やサードパーティ FM のユーザー入力とモデル応答を評価できます。ApplyGuardRail API により、すべての生成 AI アプリケーションの安全性とガバナンスを一元化できるようになりました。
ガードレールは、安全性、プライバシー、信頼性の保護を単一のソリューションで提供する大手クラウドプロバイダーが提供する唯一の製品です。コンテキストグラウンディングチェックと ApplyGuardrail API は、Guardrails for Amazon Bedrock がサポートされているすべての AWS リージョンでサポートされています。
Guardrails for Amazon Bedrock の詳細については、特集ページとニュースブログをご覧ください。