AIToday
大規模言語モデルAI安全性・アラインメントOpenAI Blog掲載日時: 2026年11月21日 6:00

OpenAI、推論抽出攻撃の成功率を0.2%に低減

LINEで送る
OpenAI、推論抽出攻撃の成功率を0.2%に低減

3つのポイント

  1. 何が起きたか

    OpenAIは適応型レッドチーミングにより、保護された推論を復元する平均攻撃成功率がGPT-6 Astraの54.0%からGPT-6.2 Astraでは0.2%に低下したと発表した。

  2. なぜ重要か

    OpenAIは敵対的蒸留を安全保障上のリスクと位置づける。推論トレース抽出への防御強化は先端能力の複製を難しくする可能性がある。OpenAIは最近のキャンペーンについてより多く共有する方針だ。

誰に効くかフロンティアAIモデルを提供するモデル開発者やプラットフォーム事業者、およびそのセキュリティ・政策チームは、無断の能力抽出に対する同様のリクエスト単位・キャンペーン単位の防御を導入する必要が出てくる可能性がある。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

OpenAIの開示は、技術的な安全策をより広い政策論議に結びつけている。同社によれば、敵対的蒸留は2番目のモデルが、元モデルの能力の使われ方を律する安全策を継承せずに高度なフロンティア能力を学習できるようにする。サイバーセキュリティや生物学のようなデュアルユース領域で特に懸念が明確だとしている。その手法は、敵対的テスト、モデル訓練、分類器、APIレベルの保護を、組織的な抽出の試みへの調査と組み合わせている。

同社はGPT-6.2 AstraとGPT-6.2 Solで保護推論の防御を強化し、モデルの保護推論をそれを生み出した会話履歴に紐づけ、安全策の弱い旧モデル群による読み取りを遮断したと述べている。また、強力な自動レッドチーミングを用いた内部の適応型評価で、保護推論を復元する平均攻撃成功率が54.0%から0.2%に低下したとしている。

OpenAIはこの技術的取り組みを国家安全保障に結びつけ、DeepSeekが米国のフロンティアモデルの蒸留を試みていたことを示す活動についての2月の議会説明と、妨害された抽出キャンペーンの中核部分をKimi開発元Moonshot AIに関係する人物に帰した9月の報告書を挙げている。法案と輸出管理を支持すると述べ、成功した抽出攻撃のログを回帰テストとして保持することや、リクエスト単位の緩和策とキャンペーン単位の執行を組み合わせることなど、他の開発者が取れる措置を勧めている。

よくある質問
敵対的蒸留とは何か?
フロンティアモデルの出力を無断で使い、同様の能力を持つ別モデルを訓練し、同等の安全策なしで展開する試みだ。
保護された推論トレースとは何か、なぜOpenAIは保護するのか?
モデルが答えを導く過程で内部生成する中間ステップ、いわゆる思考の連鎖だ。OpenAIによれば、こうしたトレースには最終回答に含まれない情報が含まれることがあり、別モデルの訓練データとして特に価値が高い。
OpenAIは蒸留キャンペーンにどう対処しているか?
OpenAIによると、こうしたキャンペーンに対する週次の執行措置は数千から数万アカウント規模に及び、この夏に頻度が大幅に増加した。
この問題でOpenAIが支持する法案は?
OpenAIは外国の主体を特定・制裁する米政府の手段を強化する法案を支持すると述べ、Chip Security Act、AI OVERWATCH Act、MATCH Actを支持すると議会に伝えた。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

Home DepotのAIが月間数百万件対応

Home DepotはAIアシスタント「Magic Apron」が月間数百万件の質問に対応し商品やプロジェクトを学習しているとRebecca Godecke氏が述べた

NEWTop Companies AI10分前

トヨタ山田氏、会議レビューをAIに任せ評価向上

トヨタ先進プロダクト開発部の山田光氏が2025年12月、社内ツールTAA向けに「会議品質評価プロンプト」を完成

NEWTop Companies AI10分前

アンソロピック320兆円上場に3つのリスク

Anthropicの320兆円上場を扱った記事は、AmazonとGoogleへの固定の巨額支払い、AIエージェントによる推論コスト増、クラウドマーケットプレイス売上の約15%の販売手数料という3つの構造的リスクを指摘した

NEWTop Companies AI10分前

NRI松江氏、AI時代は経営者が権限移譲の線引きを

NRI取締役の松江暁博氏は論考で、AIが判断と承認を段階的に担うようになるとし、経営者はAIの権限がどこで終わり、人間の説明責任がどこから始まるかを決める必要があると述べた

NEWTop Companies AI10分前

Nvidia、AI新興Inceptionを5億ドル以上で買収へ

NvidiaがAIスタートアップInceptionを少なくとも5億ドルで買収する取引に近づいている

NEWTHE DECODER40分前

Apple、デバイス制御AIエージェントの上級エンジニア募集

Appleがデバイス制御AIエージェントを率いる上級エンジニアを募集

NEWTHE DECODER40分前
次の記事へOxide創業者、4億4500万ドル調達しAI計算の自社保有に自信