Amazon Quickに自動承認機能

この機能はAmazon Quickが既に提供する制御の上に成り立つ。Custom Permissions、Quick Guardrails、コネクタのアクション権限、ユーザー設定だ。操作が自動レビューの対象になるのは、ユーザー設定が「Ask each time」で、他の制御が人の承認を要求していない場合に限る。拒否された操作は拒否のままで、必須の人的承認も引き続き適用される。つまりSmart Approvalsは権限の境界を緩めるのではなく、中断を減らす仕組みとして位置づけられている。

レビュー自体は別の分類器モデルが担い、操作の内容、データの送信先、影響を受ける相手を評価する。接続されたソースから描かれる人々や業務関係の知識グラフを参照し、受信者がユーザーの報告系統にいるかどうかを判断できるが、この参照はQuickアカウント内にとどまる。AWSによると、分類器がレビューするコンテンツはモデルの学習やサービスの改善には使われない。操作をユーザーの要求と照合することは、取得したコンテンツに埋め込まれた指示がエージェントを誘導しようとする間接プロンプトインジェクションへの対策にもなる。Quickはエージェントと分類器の双方に、そうしたコンテンツを指示ではなく情報として扱うよう伝える。それでもAWSは、モデルによるレビューは誤り得るとして、必ず人の承認が必要な操作はコネクタのアクション権限で強制すべきだと注意を促している。

強制と判断は分離されている。自動承認は1回限りで、レビューした正確な操作とパラメータにのみ適用され、継続的な権限は付与しない。権限サービスは関連イベントと権限チェックの判定をAWS CloudTrailに記録し、Amazon CloudWatch Logsで配信されるチャットとエージェントのメタデータログにより、調査担当者はユーザーと時刻で活動を突き合わせられる。AWSは、承認マーカーだけでは操作の実行を証明できないとし、送信済みメールなど送信先システムの記録で完了を確認する必要があるとしている。