DeepMind CEO、独立AI基準機関を提案

2026年7月14日火曜日の朝、Google DeepMind CEO Demis HassabisがX上で新しい規制枠組みの提案を発表した。「フロンティアAIと新時代の夜明けの枠組み」と題した投稿は、フロンティアモデルのリリース、つまりAI能力の最新の進歩を表すモデルを監督するための独立した基準機関の設立を求めている。

提案された基準機関は、証券会社とブローカーを監督する金融業界規制当局(FINRA)と同様に機能するだろう。Hassabisの計画では、フロンティアラボは当初、公開の30日前までにレビュー用にモデルを自発的に提出する。基準機関は責任ある展開慣行を確保するための評価を実施する。評価プロトコルが有効で堅牢であることが証明された場合、その取り決めはレビューに合格しなければモデルが米国市場に展開されない強制的な体制に移行する可能性がある。研究所はまた、基準機関と協力してリリース後に発見された重大な脆弱性を特定し対処する。

この提案は、AnthropicのMythosとOpenAIのSolからのフロンティアモデルに関する最近の政府レビューに基づいている。これらのレビューは技術的専門知識の欠如とリリース決定の不透明な基準で批判に直面した。Hassabisは、彼の枠組みは決定権を技術的に能力のある機関に移譲することでこれらの欠点に対処するだろうと主張している。基準機関は「米国政府が後ろ盾となり、AI産業が資金提供し、独立して運営され」、オープンソース代表者、業界の技術専門家、および特定のリスクを評価するために持ち込まれた専門的なAI安全グループからのサポートでスタッフが組成される。

HassabisのタイミングはAI規制を取り巻く政治的環境を反映している。ホワイトハウスAIアドバイザーでありa16z general partnerのSriram Krishnanは最近「AIのFDAは存在しないだろう」と述べており、トランプ政権の伝統的な政府規制機関への反対を示唆している。基準機関を自己規制機関として位置づけることで、金融会社がFINRAの独立監視下で自己規制する方法と同様に、Hassabisはこの政治的障害を回避しながら意味のある評価を保存しようとしている。彼の提案によれば、このアプローチは「分野の加速に対応し、特定されたときに最大のリスクに適応し、状況の深刻さが要求する場合にはさらに強化される」ように「設計されている」。強調は、柔軟で技術的焦点を当てたメカニズムを通じて責任ある行動を支援しながら革新を促進することにある。

Hassabisの提案は、米国政府がフロンティアAI監視をどのように扱ってきたかについての高まる不満から生じたものである。AnthropicのMythosとOpenAIのSolのその場限りのレビューは、技術的専門知識の欠如とリリース決定の透明性の欠如で大きな批判を受けた。独立しながらも政府が後ろ盾となり、産業が資金提供する基準機関を提案することで、Hassabisは難しい政治的課題を解決しようとしている。ホワイトハウスAIアドバイザーのSriram Krishnanで代表されるトランプ政権は既に「AIのFDA」の考えを拒否しており、伝統的な政府規制は政治的に実現不可能になっている。FINRAに類似した自己規制機関はこの抵抗を回避しながら、ある程度の構造化された監視を維持する。

この設計は実用的な折衷案を反映している。技術専門家と業界のインサイダーが評価をリードするため、評価がAI開発と展開の現実に基づいていることが保証される。参加を当初は自発的にし、リスクが明確になるにつれて厳しくなる適応的メカニズムとしてそれを位置づけることで、Hassabisは基準機関を革新を制約するのではなく支援するツールとして立場づけている。この提案はまた、特定されたAI安全グループの出現を認識し、それらが評価負担の一部を担うことができ、基準機関が特定の優先度の高いリスクに特化することを可能にすることを示唆している。