OpenAI、思考の透明性低下招く訓練要因4つを特定

OpenAIの最新分析は過去の知見を土台にしている。今年の春の時点では、GPT-5.4のようなモデルが指示通りに内語をほとんど操作できないことは同社にとって朗報だった。その傾向は9月のGPT-6 Astraで崩れ、最高科学責任者のJakub Pachocki氏は監視可能性が脆弱だと述べ、どのAIラボも全速力での拡張を長く続けられるほど監視を解決できていないと警告した。

安全チームはどの訓練段階がこの侵食を引き起こすかを体系的に調べた。訓練サイクル全体にわたる4つの主因に行き着いた。基盤モデル能力の向上、アーキテクチャの選択（「Architecture 2」という設計の一つは無言推論タスクで性能曲線がはるかに急だった）、強化学習（Astra級および新たな「Terra」モデルでは思考の連鎖への制御が増した）、そして蒸留時の教師モデルからの継承だ。

簡単な修正策の探索は厳しい結果だった。2026年2月以降、OpenAIはすべての訓練実行を自動検査しスクラッチパッドへの直接的な罰則を排除してきたが、それでもAstraはスクラッチパッドを強く制御するようになった。それでもデータは安全・能力・コストの間の具体的なトレードオフを明らかにしており、OpenAIはスクラッチパッドを読む以外の新たな監視手法が急務だとしている。