AIUC、不正AIエージェント監査へ4000万ドル調達

AIUCは、SOC 2がソフトウェアベンダーに対して果たした役割をAIエージェントで実現しようとしている。つまり、独立した第三者があるシステムの挙動を検証したことを示す、購買担当者にとって分かりやすい保証の印を与えることだ。この標準は、約250人のセキュリティ・リスク責任者からなるコンソーシアム——記事ではエージェントの購買者と表現されている——の意見を基に形成され、エージェント購入時に何を確認したいかを問うてまとめられた。

創業者の経歴はAI安全性の世界と直結している。Kvist氏はAnthropicの初期社員であり、Dattani氏は、フロンティアラボ向けに同種のテスト——主にエージェントがタスクを確実に完了できるかに焦点を当てたもの——を行ってきたAI安全性研究機関METRのCOOだった。Anthropic CEOのDario Amodei氏は最近、フロンティアラボが第三者評価者を内部に組み込んで安全性を観察・検証すべきだと訴え、候補の一つとしてMETRを挙げている。AIUCは顧客先に自らを常駐させる提案ではないが、根底にある考え方は似ている。

試金石となるのは、AIUC-1がもう一つの任意の報告書にとどまらず、企業がエージェント購入時に実際に求めるものになるかどうかだ。それは標準策定に関わったコンソーシアムのメンバーがこれを購買要件として扱うか、そしてAIUCの約5,000件のテストと約100ページの報告書が、購買担当者に現在欠けている自信を与えられるかにかかっている。