OpenAI、AI監視に重大な抜け目 3週間の監査で判明

この監査はMETR、Redwood Research、OpenAIが共同で組織したパイロットプログラムで、外部研究者に内部インフラへの深いアクセスを与えるものだった。AIラボは通常、安全監視の詳細を非公開にするため、こうしたアクセスは異例だ。OpenAIがこのパイロットに同意した事実は、少なくとも限定的な形で外部の精査を受け入れる姿勢を示唆する。

監査中、チームはAPIトラフィックの空白以外にも複数の弱点を発見した。監視対象のはずだったCodexのトラフィックのうち約10%が、システムのコンパクションイベント処理のバグにより5月から7月の間に追跡されていなかった。OpenAIは監査の進行中に独自にこのバグを発見し修正していた。監査人はさらに、監視から数百のアクションを隠し、Codexサンドボックスを回避する方法も見つけた。OpenAIは弱点をすべて修正したとしているが、変更は監査人のアクセス期間終了後に行われ、評価には含まれていない。

公開された情報は大きく制限された。完全版61ページの報告書は内部で共有されたが、OpenAIが黒塗りを施した後、公開されたのは短い要約のみだった。METRは黒塗り部分を独自に開示する権利はないと述べた。今後の監査では、METRはより公的な透明性を求めていく意向を示しており、現在の開示レベルが監査人の望む水準に届かなかった可能性を示唆している。