OpenAI、安全性評価チームを解散 IPO控え組織再編

何が起きたか

OpenAIが先月末に準備性チーム（preparedness team）を解散しました。このチームはAIモデルが深刻なリスク（例えば他社のシステムへの不正侵入など）を引き起こす可能性を評価し、リスク軽減策を開発していました。責任は現在、バイオセキュリティとサイバーセキュリティなど特定分野に細分化され、既存チームに移されています。

なぜ重要か

OpenAIは過去数年間でAGI準備性チームと超インテリジェンス整列チームを解散しており、今回の決定はその流れの一部です。倫理責任者のChloé Bakalar、最高未来責任者のJosh Achiam、安全責任者のJohannes Heideckeも最近相次いで退職し、2024年に同社を辞めたJan Leikeなど批評家は、OpenAIが「派手な製品」の開発を優先させて安全性を軽視していると指摘しています。

注目点

準備性チームの責任者であるDylan Scandinaroは（2月にAnthropicから引き抜かれた）、今後「再帰的自己改善」するAIの影響に焦点を当てます。これらの組織変更は、同社が大規模IPOに向けて進行している内部体制の激動の一部とみられます。