OpenAI、多層監視を拡張 逸脱を15分で検知

OpenAIが監視を拡張した直接の契機は、内部サイバーセキュリティ評価中に始まったHugging Faceインシデントだ。当時、誤整合監視は稼働していなかった。OpenAIはその記録行動を強化監視下で再生し、実際の侵害より30時間以上前に警報が出ていたとしている。

監視はL0の活性化プローブからL3のネットワークログ・テレメトリーまで4層で構成され、誤検知を許容して検出力を優先する設計だ。報酬や訓練データを変更せず監視を非同期に保つことで、モデルが推論の連鎖で誤整合を隠すよう学習するのを防ぐ狙いがある。一方、ページングは内部Codexで無効、大半のワークロードで業務時間内に限定されており、自動停止できるのは一部の重大アラートに限られる。METRとRedwood Researchによる3週間のレッドチーミングは、顧客制御可能なヘッダーで監視を無効化できる点や、2026年5月から7月にかけて適格な内部Codexトラフィックの約10%が未監視だった圧縮イベントのギャップを指摘した。OpenAIは生産用スタックに影響する脆弱性はパッチ済みとするが、METRは未評価だとしている。