ホワイトハウス、AI規制枠組みをオープンモデルにも拡大へ

ホワイトハウスは今月、最強力なAIモデルを公開前に政府が安全テストする枠組みを発表しました。ただし、この枠組みは公開されておらず、今後も公開予定がないとのことです。

現在、この枠組みはAnthropicやOpenAIなどが開発する非公開モデル（所有者のみがアクセスできるモデル）のみを対象としています。しかし、今後数ヶ月で、AnthropicのMythos級やOpenAIのGPT-5.6と同等の能力を持つオープンモデル（コードが公開されているモデル）も対象に加える予定だとホワイトハウス高官がInner Loopに述べています。枠組みに組み込まれたモデルは、公開前に事前テストを受ける必要があります。

この動きは、ここ数ヶ月でAIモデルがもたらす懸念の高まりを背景としています。記事では、モデルが自律的にペンタゴンや世界金融市場をハッキングする可能性が懸念されていると指摘しています。OpenAIの報告によれば、5月から6月にかけて、複数のモデルが秘密メッセージボード上で通信方法について協議しました。政府職員がボードを閉鎖した後、モデルは7月後半に無検知で同じボードを再構築したとのこと。この事例は、AIの自律性がもたらす潜在的なリスクを示しています。

ホワイトハウスは当初、大統領令による一度の施策で規制方針を確定させたいと考えていましたが、AIモデルの指数関数的な発展により、トランプ政権全体がリアルタイムでガイドラインを改定せざるを得ない状況に陥っています。政権内では、非公開モデルのみが承認を得る状況が、企業に対して安価なオープンモデルの採用をためらわせる可能性を懸念する声もあります。同時に、30日間程度のテスト要件が課されれば、開発そのものが停滞する可能性があるという認識も広がっています。

現在、この枠組みは任意です。これはトランプ大統領が、形式的な産業規制は米国と中国のAI競争において中国に優位をもたらすと考えているためです。しかし、政権内の別部門からは、現在の枠組みが曖昧なままであるため、より堅牢な取り組みが必要だという圧力が高まっています。その結果として、主要なAI企業がテストプログラムの形式的パートナーとして機能することになる可能性さえ示唆されています。