AIToday
大規模言語モデルAI安全性・アラインメントAI Weekly掲載日時: 2026年11月22日 10:01

OpenAI、GPT-6.2 Astraで推論抽出成功率0.2%に

LINEで送る
OpenAI、GPT-6.2 Astraで推論抽出成功率0.2%に

3つのポイント

  1. 何が起きたか

    OpenAIはGPT-6.2 AstraとGPT-6.2 Solで保護推論を会話履歴に結び付け、過去メッセージを書き換えると後続の推論がAPIから破棄される仕組みを導入した。

  2. なぜ重要か

    この履歴連動の仕組みにより、攻撃者が会話を改変して隠れた推論を引き出そうとしてもAPI側で無効化されるため、推論の抽出が著しく難しくなったとみられる。

誰に効くか自社でGPT-6.2系APIを利用する情報システム部門や、モデルの推論過程を外部に漏らしたくないAI開発企業に影響する。会話履歴の改変によって過去の推論が失われる仕様のため、プロンプト編集を前提とするアプリ開発者は動作確認が必要になる。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

OpenAIは今回の防御を、単なる技術的対策ではなく地政学的な文脈で捉えている。2月に議会へDeepSeekによる蒸留試行を説明し、9月にはMoonshot AI関係者による推論抽出キャンペーンを摘発したと報告した。週次の執行措置は数千から数万アカウント規模に及び、この夏に増加したという。

攻撃成功率の低下は、会話履歴に推論を紐付ける構造的な仕組みによるものだ。過去のメッセージが書き換えられるとAPIが後続の推論を破棄するため、リプレイ攻撃もライブ抽出も成立しにくくなる。OpenAIは6つの攻撃モデルを用いたブラックボックス設定での適応型レッドチーム結果を公表したが、攻撃モデル名や領域別の内訳は明らかにしていない。

よくある質問
GPT-6.2 Astraの防御はどのように機能しますか?
モデルの保護推論を会話履歴に結び付け、新しいメッセージが追加されると以前の推論を基に計算を続けられる。一方、以前のメッセージが書き換えられるとAPIがその後の推論を破棄する。
この防御はどのような攻撃に効果がありますか?
過去ターンの推論を抽出しようとする攻撃成功率が54.0%から0.2%に低下し、現在のリクエストに対する抽出攻撃も22.9%から0.9%に下がった。リプレイ攻撃とライブ抽出の両方に対応する。
OpenAIはこの問題をどのように位置付けていますか?
2月にDeepSeekによる米国フロンティアモデルの蒸留試行について議会に説明し、9月にはMoonshot AI(Kimi開発元)関係者による推論抽出キャンペーンを摘発したと報告している。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

次の記事へCiti、第三者AIエージェント利用は顧客承認とみなす規約に