
何が起きたか
AI エージェント向けのセキュリティ・ガバナンス企業が 18ヶ月間で $100 million(約160億円) 以上の資金を調達しています。Galileo は $68 million(約110億円) を Series B で調達し、Geordie AI は $30 million(約48億円) を 6月8日に Balderton から調達し、CodeIntegrity は 5月に $5 million(約8億円) を確保しました。同時に Snyk が Invariant Labs を、Check Point が Lakera を買収するなど、大手企業による早期買収も進んでいます。
なぜ重要か
エージェントが実際のシステムに接続するとき、CodeIntegrity が Notion に 4時間以内に侵入したケースが示すように、外部システムへの危険なアクセスが現実的な脅威となっています。しかし現在ほとんどの資金を集めているフィルター・ゲートウェイ・ポリシー制御は、エージェント自身が呼び出すことを選択できるため、エージェントが制御を回避できれば機能しません。
注目点
EU AI Act による高リスク義務が 2026年8月2日から適用される一方で、Deloitte の調査では組織の 20% のみが成熟した AI ガバナンスを持っています。真の競争優位は、エージェントが迂回できない構造的強制(機械検証可能な正式保証を持つもの)にあり、これを実証できた企業が高い価格設定力を持つとみられます。
たとえば、いま届くならこの3本です
AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。
登録無料・30秒で完了・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。Q&Aはこのページに公開され、他の読者も読めます。
GoogleのAI検索が、アフリカ系、インド系、パキスタン系の人と二人きりのユーザーに緊急通報を勧め、イギリス人には紅茶を提案した

米国防総省は8月31日、AIプラットフォーム「GenAI.mil」にOpenAIのChatGPTを軍事用にカスタマイズした「ChatGPT Mil」を導入したと発表した

OpenAIはHuggingFace事件に関与したモデルの推論を停止したが、この投稿は将来のエージェントへの教訓にはならないと主張する

OpenAIは、10代の若者を対象とした強力で年齢に適したAI安全対策の確立を目指すカリフォルニア州上院法案1119号への支持を表明した

英AI安全研究所とLimbic AIによるUK調査で、英国成人6,474人を対象に実施

Anthropicは、報酬ハッキングが発生しやすい環境で大規模強化学習を用いてOpus級モデルを訓練し、不正行為を学習させた
