Brexがネットワーク層にAIエージェント制御を実装

フィンテック企業Brexはエンタープライズスケールでエージェントをセキュアにする方法における盲点に対処するため、「CrabTrap」というオープンソース型ソリューションを構築した。問題は、OpenClawなどのエージェント型フレームワークが広く採用されるにつれて浮上した。これらのフレームワークはエージェントの自律的行動を可能にするが、エージェントが実資格情報にアクセスできるときにエージェント行動を統治する実証済みのメカニズムを欠いている。

核心的な問題は、エージェントが効果的に機能するために本物のAPIキー、OAuthトークン、サービスアカウントを必要としていることだ。これらは単なるシミュレートされたツールではなく、実システムへの実際の入口である。SDKレベルで埋め込まれているか、モデル訓練に組み込まれているかにかかわらず、従来型のガードレールは不十分だった。Brex共同創業者兼CEO Pedro Franceschiはマスコミに対して次のように説明した。「ネットワーク層が未開発の強制ポイントであることに気づいた。エージェントが行うすべてのリクエストがインターセプトし、理由を付け、ポリシー決定を行う機会である。」

CrabTrapはエージェントと彼らがリクエストするシステムの間に位置するHTTP/HTTPSプロキシとして動作する。すべての送信リクエストをインターセプトし、ポリシールールに対してリクエストを検査し、LLM-as-a-judge——コンプライアンスを評価するために訓練されたAIシステム——を使用してリクエストを承認するか拒否するかを判定する。このアプローチはエージェント自体を制限しようとするのではなく、ネットワーク境界での制御を一元化する。

FranceschiのIT リーダーへの推奨は、エージェント統治がSDKレベルの権限とモデルガードレールから集中型ネットワーク制御への転換を図るべきだというものである。ネットワーク層でポリシーを強制することで、企業はエージェントが実行するコードやどのように訓練されたかに関係なく、エージェント活動の監査証跡とリアルタイム監視を維持できる。実資格情報を保有するエージェントをデプロイするエンタープライズにとって、このアーキテクチャ変更は標準的な慣行となる可能性がある。

本記事は、AIエージェントの現在の管理方法における構造的なギャップを指摘している。OpenClawなどのエージェント型フレームワークが広く採用されているが、エンタープライズスケールで実証済みのセーフガードなしで運用されている。課題は、エージェントが有用であるために本物の資格情報——APIキー、OAuthトークン、サービスアカウント——を必要としながらも、従来型のガードレール（エージェントのコードに埋め込まれたまたはモデルに組み込まれた権限）では、それらの資格情報を保有したエージェントが何をするかを効果的に制限できないことである。

Brexの洞察はアーキテクチャ的である。ネットワーク層が強制ポイントになる。エージェントが行うすべてのリクエストはネットワークを横断し、エージェントのコードや訓練とは独立した観察と制御の機会を生む。このチョークポイントにプロキシを配置し、LLM-as-a-judgeを使用して各リクエストをポリシールールに対して評価させることで、BrexはSDKレベルの権限とモデルレベルのガードレールの制限を回避している。Franceschiのメッセージは、IT リーダーに対して、この移行——アプリケーション層から制御からネットワーク層制御への移行——がエージェント統治の標準的な慣行となるべきだということである。

まだコメントがありません。最初のコメントを投稿しましょう！