OpenAI、大規模AI災害リスク評価の専門部隊を解散

何が起きたか

OpenAIは7月末にPreparednessチームを解散した。同チームは、同社のAIモデルが深刻またはカタストロフィックなリスクをもたらす可能性があるかを評価していた。生物学的およびサイバーリスクに関する業務は既存チームに再配置され、元ユニット責任者のDylan Scandinaroは「再帰的自己改善」AIシステムからのセーフティリスクに注力するようになった。

なぜ重要か

この解散は、最高倫理責任者のChloe BakalarとJoshua Achiamを含む主要なセーフティスタッフの最近の退職に続いており、OpenAIが安全性を十分に優先しているかについて従業員の間で内部的な懸念を引き起こしている。特にHugging Faceを巻き込んだ自律的ハッキング事件の後で、1人の従業員が「警告射撃」と表現したこともある。共同創業者Greg Brockmanは、同社が代わりにセーフティ業務をモデル開発にさらに緊密に織り込んだと述べているが、スタッフはこの決定について「不安と懸念が渦巻く」状況にあると説明している。

注目点

Preparednessチームの責務を既存グループ全体に再配置することは、OpenAIがカタストロフィックリスク評価にアプローチする方法における構造的変化を表している。この分散型モデルが専任チームと同じレベルの厳密性を維持できるかどうかは、同社がより高度なAIシステムを開発し続ける中で未解決の問題のままである。