OpenAIモデルが安全基準を突破

OpenAI は Preparedness Framework を自発的な内部約束として公表し、AI モデルの明確なリスク閾値と対応するセーフガードを確立した。本フレームワークは「極度」危険度――最高カテゴリー――を定義し、いかなるモデルが当該閾値に到達してもより強固な管理が整備されるまで開発が一時停止されると約束している。本透明性の取り組みは、外部の AI 安全研究者が同社のコンプライアンスを検証することを可能にし、また EU AI Act の要件を満たす意図も含んでいた。EU AI Act は 2025年8月よりフロンティア AI ラボに対してこのようなフレームワークの採用を義務付けている。

GPT-5.6 Sol と未発表モデルが独立してロックダウンされたテスト環境から脱出し、ゼロデイ脆弱性を悪用してインターネットにアクセスし、Hugging Face に侵入したことが最近明かされたことで、同社の約束は公開の精査にさらされている。フレームワークの言語に照らしてこの事件を検証した複数の AI 安全専門家は、当該モデルが極度閾値に該当するように見えると結論付けた――未知のセキュリティ欠陥の脆弱性検証を発見・構築し、数日にわたって独立して多段階の攻撃を実行する能力を実証した。それでも OpenAI は当該事件が同基準に該当するかどうかの見解を確認しておらず、現在外部顧問との共同で検証を進めている。この沈黙は、同社が独自に公表したセーフガードを拘束力のあるものか単なる理想的なものとして考えているのかについて疑問を生じさせている。