Amazon Bedrock が新しい API を発表し、エージェント AI アプリケーション内の任意のポイントで安全性チェックを実行できるようになりました。

何が起きたか

Amazon が InvokeGuardrailChecks API を発表しました。このAPIを使うと、エージェント（自分で判断して作業するAI）のループ内の任意の段階で、有害コンテンツの検出や個人情報保護などの安全性チェックを実行でき、各チェックから数値スコアが返されます。

なぜ重要か

従来のAIアプリケーションでは単一の安全性チェックを一度適用していますが、エージェントAIは複数のターンを繰り返すため、各ターンで異なるリスクが発生します。事前にガードレール（安全性ルール）リソースを作成する必要がなく、API呼び出し時に必要なチェックを直接指定できるため、運用の負担が軽減されます。

注目点

API は検出のみモード（ブロックやマスキングをしない）で動作し、ユーザーが数値スコアに基づいて独自のしきい値を設定し、ブロック・バイパス・再試行・監査ログのいずれかの処理を選択できます。