何が起きたか
OpenAI は GPT-Red という内部 AI を構築し、プロンプトインジェクションなどの攻撃をシミュレートして GPT モデルのセキュリティ脆弱性を自動的に探索する。自己対戦強化学習で訓練された GPT-Red は、テストシナリオの 84% で悪用可能な欠陥の発見に成功し、人間のレッドチームの 13% を大きく上回った。1つのテストでは、OpenAI のオフィスの AI 対応自動販売機を操作して価格を変更し、他の顧客の注文をキャンセルした。
なぜ重要か
このテスト結果は次世代モデルの訓練に直結する。GPT-5.6 Sol は、4ヶ月前の最高性能モデル比で直接的なプロンプトインジェクション攻撃による障害を 6 倍削減しており、一般的なパフォーマンスは低下していない。これは AI 駆動型セキュリティテストが人間の努力よりも圧倒的に効果的であり、これらのシステムが機密タスクを扱う中で重要な懸念事項である敵対的攻撃からモデルを強化する点を示唆している。
注目点
GPT-5.6 Sol では「強度の高い」プロンプトインジェクション攻撃の約 3.8% が依然として成功しており、数百～数千回の試行規模では相当数の攻撃が突破する可能性がある。これは Claude Opus 4.5 と同等の状況である。GPT-Red は内部用のままであり、OpenAI は詳細な論文を発表する予定としている。
こういう要約が、毎朝あなたのメールに届きます。
OpenAI の AI セキュリティへのアプローチは、従来の人間主導のレッドチームから敵対的機械学習へのシフトを示している。GPT-Red を自己対戦強化学習で訓練することで—攻撃モデルと防御モデルが反復的に互いに進化する—OpenAI は人間のテスターが達成できるはるかを超えたプロセスを創出した。GPT-Red の 84% の攻撃成功率対人間の 13% は実質的な効率ギャップを明かしており、人間のレッドチームは価値があるとはいえ、敵対的空間を徹底的かつ迅速に探索することはできない。
GPT-5.6 Sol の具体的な改善は、このテスト体制が本番環境のモデルで測定可能なセキュリティ向上に転換されることを示している。直接的なプロンプトインジェクションの障害が 6 倍削減されることは実質的な強化を表し、モデルの一般的な機能を損なわずに達成されており、防御への過適合は有用性を損傷させるため重要な制約である。しかし 3.8% の成功率の持続性は、プロンプトインジェクションが最先端においても部分的に未解決の問題であることを示唆している。Claude Opus 4.5 との比較は、この残存する脆弱性が OpenAI のアプローチに固有ではなく、主要モデル全体に共通する課題を反映していることを示唆している。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
Amazonはウェアラブル個人AI「Bee Frontier」をOnyx、Lavender、Sageの3色で74.99ドルにて導入し、「Bee Eclipse」も99.99ドルから近日発売すると発表した
AI相場への懸念と原油高が重荷となり、ウォール街は大幅安で取引を終えた
Financial Timesによると、CitiがAIエージェントによる口座アクセスを制限する最新の米銀となった
DellのArthur Lewis社長は「多くの場合、次の制約はモデルではなくデータだ」と述べ、AI Data Platformがその問題を解決すると説明した
MicrosoftとNvidiaがローカルAI向け新Windows PC「RTX Spark」を推進
Microsoft AI CEOのMustafa Suleymanは、MAI-Base-2はGPT 5.6 Solを支えるモデルより強力で、OpenAIの計算量の4分の1で済んだと述べた
