
何が起きたか
OpenAIは適応型レッドチーミングにより、保護された推論を復元する平均攻撃成功率がGPT-6 Astraの54.0%からGPT-6.2 Astraでは0.2%に低下したと発表した。
なぜ重要か
OpenAIは敵対的蒸留を安全保障上のリスクと位置づける。推論トレース抽出への防御強化は先端能力の複製を難しくする可能性がある。OpenAIは最近のキャンペーンについてより多く共有する方針だ。
誰に効くかフロンティアAIモデルを提供するモデル開発者やプラットフォーム事業者、およびそのセキュリティ・政策チームは、無断の能力抽出に対する同様のリクエスト単位・キャンペーン単位の防御を導入する必要が出てくる可能性がある。
こういう要約が、毎朝あなたのメールに届きます。
OpenAIの開示は、技術的な安全策をより広い政策論議に結びつけている。同社によれば、敵対的蒸留は2番目のモデルが、元モデルの能力の使われ方を律する安全策を継承せずに高度なフロンティア能力を学習できるようにする。サイバーセキュリティや生物学のようなデュアルユース領域で特に懸念が明確だとしている。その手法は、敵対的テスト、モデル訓練、分類器、APIレベルの保護を、組織的な抽出の試みへの調査と組み合わせている。
同社はGPT-6.2 AstraとGPT-6.2 Solで保護推論の防御を強化し、モデルの保護推論をそれを生み出した会話履歴に紐づけ、安全策の弱い旧モデル群による読み取りを遮断したと述べている。また、強力な自動レッドチーミングを用いた内部の適応型評価で、保護推論を復元する平均攻撃成功率が54.0%から0.2%に低下したとしている。
OpenAIはこの技術的取り組みを国家安全保障に結びつけ、DeepSeekが米国のフロンティアモデルの蒸留を試みていたことを示す活動についての2月の議会説明と、妨害された抽出キャンペーンの中核部分をKimi開発元Moonshot AIに関係する人物に帰した9月の報告書を挙げている。法案と輸出管理を支持すると述べ、成功した抽出攻撃のログを回帰テストとして保持することや、リクエスト単位の緩和策とキャンペーン単位の執行を組み合わせることなど、他の開発者が取れる措置を勧めている。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る
Home DepotはAIアシスタント「Magic Apron」が月間数百万件の質問に対応し商品やプロジェクトを学習しているとRebecca Godecke氏が述べた

トヨタ先進プロダクト開発部の山田光氏が2025年12月、社内ツールTAA向けに「会議品質評価プロンプト」を完成

Anthropicの320兆円上場を扱った記事は、AmazonとGoogleへの固定の巨額支払い、AIエージェントによる推論コスト増、クラウドマーケットプレイス売上の約15%の販売手数料という3つの構造的リスクを指摘した

NRI取締役の松江暁博氏は論考で、AIが判断と承認を段階的に担うようになるとし、経営者はAIの権限がどこで終わり、人間の説明責任がどこから始まるかを決める必要があると述べた

NvidiaがAIスタートアップInceptionを少なくとも5億ドルで買収する取引に近づいている

Appleがデバイス制御AIエージェントを率いる上級エンジニアを募集
