Google DeepMindが複数のAIエージェント（自分で判断して作業するAI）が相互作用する際のリスク研究に$10 million（約16億円） の資金を投じ、安全性確保を急ぐ動きが広がっている。

何が起きたか

Google DeepMindが Schmidt Sciences、英国政府の ARIA、Cooperative AI foundation、Google.org と協力し、マルチエージェントシステム（複数のAIが一緒に働く仕組み）の安全性研究に向けて$10 million（約16億円） の資金を発表しました。Google DeepMind の Kamal Shah氏は、現在はエージェントが経済全体に展開される前の「数カ月の猶予がある」と考えており、事前に対策を講じる意向を示しています。

なぜ重要か

エージェント型AIが数多く導入され始めると、詐欺やサイバー攻撃といった現在インターネットで起きている悪行の「スケール版」が発生する懸念があります。複数のAIが一緒に働く場合の動作は単体や小規模グループの研究では予測できず、新たなリスク領域として「マルチエージェント安全研究」という専門分野がまだ存在しないのが課題です。

注目点

研究者たちはこのリスクを理解するために、AI エージェントをサンドボックス環境（隔離された実験環境）に置いて動作をシミュレーションする必要があると考えています。Anthropic も最近、ゼロトラスト・アプローチ（システムは常に脆弱だと想定するセキュリティ手法）に基づくAIエージェント導入ガイドラインを公表し、業界全体で安全対策への関心が高まっている状況です。