Amazon CloudWatch Application Signals が Amazon Bedrock のサポートを開始
Amazon CloudWatch Application Signals が Amazon Bedrock をサポートするようになり、ユーザーは生成 AI アプリケーションのエラーやパフォーマンスの低下をトラブルシューティングできるようになりました。Amazon Bedrock は、Anthropic、Meta、Amazon などの大手 AI 企業が構築した基盤モデル (FM) と、生成 AI アプリケーションを構築するためのその他のツールを提供するフルマネージドサービスです。Bedrock FM に依存する生成 AI アプリケーションを使用するユーザーにとって、この拡張機能により、モデル検証の例外などの障害や、さまざまなモデルのレイテンシーがエンドユーザーのエクスペリエンスにどのように影響するかをより深く理解できるようになります。
Application Signals は、メトリクス、トレース、ログ、リアルユーザーモニタリング、およびアプリケーションとその依存関係 (Amazon Simple Queue Service (SQS)、Amazon S3、または Amazon Bedrock など) の合成モニタリングにわたって、テレメトリを関連付けるための、すぐに使用できるダッシュボードを提供しており、アプリケーションの中断のトラブルシューティングを高速化します。たとえば、Bedrock FM を呼び出す LLM (Large Language Model) アプリケーションを運用しているアプリケーション開発者は、カスタマーサポート API に問題が発生しているかどうかを追跡できます。その後、エラーの原因となっている正確な相関トレースと相関ログを掘り下げて、エンドユーザーエクスペリエンスの低下につながる、無効なモデル入力や LLM モデルからの応答時間が長いなどの根本原因を突き止めることができます。アプリケーション内のモデルパフォーマンスを追跡することで、さまざまなモデルを評価してユースケースに最適なモデルを選択することができ、コストとカスタマーエクスペリエンスを最適化できます。
詳細については、Amazon Bedrock モデルとやり取りするアプリケーションで Amazon CloudWatch Application Signals を有効にするためのドキュメントを参照してください。サンプルのアプリケーションで Application Signals を試すには、AWS One Observability Workshop をご覧ください。