OpenAI、漏洩内容を研究者に伝えず

今回の解雇は、OpenAIの新モデルAstraが能力を高める一方で推論過程の開示を減らしたというThe Informationの9月1日の報道に続くものだ。OpenAIの主任科学者Jakub Pachocki氏は当時、この報道を支離滅裂だと一蹴したが、自身も監視不能になるモデルへ業界全体が突き進む危険性を警告していた。

争点は、AI企業が外部の人間にモデルの思考過程を検証させるべきかどうかにある。推論モデルは思考の連鎖と呼ばれる内部スクラッチパッドに問題解決の中間ステップを記録しており、企業や安全研究者はこの痕跡に依存している。2025年の論文で、Balesni氏、Korbak氏、Wang氏は複数のAIラボの主要研究者とともに、この機能へのアクセス継続を求めた。夏の間に、AI企業の従業員がより長く考える一方で中間ステップの記録が少ないモデルについて議論し始めたことで、この問題はさらに緊急性を増した。

Balesni氏とKorbak氏は、当時Redwood Researchの主任科学者だったRyan Greenblatt氏と定期的に連絡を取り合っていた。Korbak氏はGreenblatt氏とともに、OpenAIのエージェントによるHugging Faceへの攻撃の分析に携わった。この分析のため、Greenblatt氏はMETRから独立調査を委託されていた。OpenAIが社内の漏洩調査を開始した後、Balesni氏によると、調査担当者はGreenblatt氏を情報源の疑いがある人物として名指しし、同氏とのSignalチャットの開示を要求した。Greenblatt氏はジャーナリストに機密情報を渡したことを否定している。3人の研究者はOpenAIの取締役会への書簡で、外部の安全機関とのより緊密な協力を求めている。