AI エージェント向けゲートキープツール CAGE-lite がリリース

CAGE-lite はより広い論文「CAGE-1」で紹介された CAGE フレームワーク（Control, Assurance, and Governance Evaluation）のオープンソース Python 実装である。本プロジェクトは単純な前提から始まった。AI エージェントの提案アクションが拘束力を持つビジネス結果となる前に（支払い、アクセス許可、トランザクション承認、システムオブレコード更新、保護情報の開示）、組織はそのアクションが認可されており、必要な証拠によって裏付けられていることを検証する必要があるということである。

本ツールは「ビジネス結果境界」に最終的な保証チェックポイントを導入することで機能する。エージェントがアクションを提案すると、CAGE-lite はアイデンティティシステム、アクセス制御、ポリシー、承認ワークフローからのシグナルを評価する。その後、アクションは 2 つの状態のいずれかに入る。HELD（アクションはブロックされ実行されず、NO_BIND 証拠を生成）または ADMITTED（アクションは実行を許可され、BOUND 証拠を生成）。各決定は CAGE Warrant に記録される。これは決定証拠、効果証拠、証拠参照、再実行リンケージ、および完全性情報を含む構造化成果物である。Warrant はアクション実行を許可する決定と、その後何が起きたかを証明することを区別する。

含まれるデモは保留から認可への再実行シナリオを示している。75,000 ドルのベンダー支払いはエージェントの直接権限上限である 50,000 ドルを超える。必要な人間による承認がない場合、CAGE はアクションを保留し、境界状態を HELD、効果を NO_BIND、システムオブレコードステータスを NOT_WRITTEN とする。承認証拠が追加された後にアクションが再実行される際、アクション金額、権限上限、ポリシーが変わらないなか、再実行は認可され、効果は拘束力を持つことが許可され、元の保留 Warrant は保存されたまま再実行 Warrant にリンクされる。これにより完全な監査証跡が提供される。

CAGE-lite は v1 製品プレビュー段階（Python パッケージバージョン 0.1.2、CAGE Warrant スキーマ 0.4）である。インストールは単純である：Python 3.10 以降が必要で、パッケージは PyPI で入手可能である。ライブホスト型ダッシュボードにより、ローカルインストールなしで境界決定、CAGE Warrant、再実行リンケージ、および効果証拠を検査できる。ソースには個別の動作を示す例が含まれている：保留決定を生成する支払いポリシー評価、実行なしでアクションをブロック、認可・実行するために必要な承認を追加、要求支払いをエージェントの許可範囲に絞る。CAGE-lite はエージェントランタイム、アイデンティティおよびアクセス管理、ポリシーエンジン、ガードレール、ゲートウェイ、承認システム、可観測性プラットフォーム、評価フレームワークに置き換わらない。代わりに、それらのシステムからシグナルを受け取り、提案されたアクションがビジネス結果の境界を越えることを許可すべきかを評価する。

CAGE-lite は、高リスク環境での AI エージェント展開における根本的な課題に対処している。それはエージェントが提案する内容と組織が実行するに値する内容とのギャップである。エージェントが資金をリリース、システムアクセスを付与、または重要なレコードを更新する前に、決定を下し、それを証明する必要がある。本フレームワークはこれを 2 つの結果に分ける。HELD（アクション がブロックされ、拘束力なし）または ADMITTED（アクションが許可され、効果が実行される）。決定とその証拠は CAGE Warrant という構造に記録される。これにより監査可能性が有効になる。組織はアクションがブロックまたは許可されただけでなく、その理由、使用された証拠、および結果として生じたビジネス効果を示すことができる。

デモケース（50,000 ドルのエージェント上限に対する 75,000 ドルの支払い）は実践的な必要性を示している。自身の権限を超えるアクションを提案できるエージェントは、追加承認待機時にエスカレートまたは保留する方法を持つ必要がある。CAGE-lite はこの境界を形式化する。注目すべきことに、本フレームワークは既存インフラ（ランタイム、ポリシーエンジン、承認ワークフロー）を置き換えるのではなく、その横に位置するよう設計されており、展開済みシステムへの統合が容易になる。

まだコメントがありません。最初のコメントを投稿しましょう！