Abnormal AI、AgentCore Code Interpreterを数十億メッセージ規模で運用

Abnormal AIの導入は、本番AIにおける成熟しつつあるパターンを示している。エージェントには言語生成だけでなく、計算用のスクラッチパッドが必要だということだ。同社の3層メール検知パイプラインは、まず数十億件のメッセージを軽量な分類に通し、数百万件をより深いMLモデルに通し、最も難しい数万件だけをCode Interpreterを備えたインラインエージェントに送る。このアーキテクチャにより、エージェントの計算コストは高くても、本来なら人間のアナリストが必要になる案件に集中させられる。AI戦略担当VPのShrivu Shankar氏によれば、ほぼどんなエージェントでもデータを処理して答えを導くにはコードインタープリタのサンドボックスが必要だという。

セキュリティ設計には、大規模にエージェントを運用して得た教訓が反映されている。Abnormal AIは再現性とデータ持ち出し防止のため、外部ネットワークアクセスなしのサンドボックスを選んだ。たとえプロンプトインジェクションでエージェントが悪意ある挙動をとっても防げる。さらに既存のネットワーク分離ハーネスの上にも重ねている。長時間タスクでは、ファイルシステムをチェックポイントとして使い、Code Interpreterを実行し、状態を永続化し、外部でモデルを訓練し、再びCode Interpreterを呼び出す。アナリストエージェントはこのパターンを終日におよぶモデル訓練作業に使っている。

構築者にとってこれが意味するのは、Code Interpreterが単なるコーディングツールではなく、エージェント推論の基盤インフラだということだ。この手法が広がるかどうかは、各チームがAbnormal AIのサンドボックス規律を再現できるか、そしてアナリストエージェントが自律的に書くヒューリスティクスが時間とともにTier 1とTier 2をどれだけ改善するかにかかっている。