OpenAI、AI安全規制の義務化を要求

OpenAIは今回の政策提言を、特定の瞬間への対応として位置づけている。Greg Brockmanが「ディフェンダーズ・ウィンドウ」と呼ぶもので、強力な攻撃能力が広まる前にフロンティアAIが重要システムの強化を助けられる限られた期間を指す。同社は能力が急速に進歩しているとし、最新研究ではAIエージェントが熟練研究者でも数日かかるタスクを一部実行できると示している。これは再帰的自己改善ではないとしつつ、進む方向を示す証拠だとしている。

OpenAI自身の安全策も背景にある。モデル開発ライフサイクル全体で監視・アラインメント・セキュリティを強化し、完全な軌跡の普遍的な監視や、Astraと呼ぶシステムの社内展開前の必須のアラインメント評価ゲートを導入したとしている。また、preparednessフレームワークに基づき、続行が許容できない安全リスクをもたらす場合は開発や展開を減速・停止するとしている。政策提言はこの論理に従うもので、個々のラボで安全策が能力に追いつけないなら、共通基準が必要だという考えだ。

OpenAIが描く利害は、民主主義政府が能力に制度が追い越される前に持続可能なルールを設定できるかどうかにかかっている。同社はより強力な安全策が導入を遅らせるのではなく可能にすると賭けており、モデルと専門知識が世界的に移動することを踏まえ、互換性のある国際標準が必要だとしている。議会が閉会前に動くか、カリフォルニアなどの州がOpenAIの言う「逆連邦主義」で空白を埋めるかが、その窓がどれだけ開いているかを示すだろう。