OpenAI安全担当ロビンソン氏辞職

ロビンソン氏は、OpenAIが試行錯誤を通じて成長してきた「反復的デプロイメント」という手法を問題視している。この手法は問題を発見し安全対策を改善するものだが、その性質上、定期的な失敗が避けられず、AIシステムの能力が向上するにつれて失敗の規模も拡大するという。同氏は、最先端のAI企業は原子力発電所や混雑した空港のように幾重もの冗長性と綿密で時間のかかる計画を立てて運営を開始する必要があると主張するが、そのような同僚には「一度も出会わなかった」と述べている。

一方、OpenAIの広報担当ドリュー・プサテリ氏は、研究・テスト環境のセキュリティ強化や責任ある方法で遂行するモデルの学習、第三者評価機関との取り組みの拡大、リアルタイム監視の改善など大幅な変更を進めていると説明する。ロビンソン氏は、社内に留まって改革を戦うべきだったかもしれないが、日々の業務に追われて大きな変化を検討する機会がほとんどなかったため、社外からのより強力なインセンティブが重要だと結論づけた。

この問題の焦点は、AIの安全性を企業文化のレベルでどう担保するかにあるとみられる。開発競争が続く中で、各社がどこまで安全対策に資源を割くかが、今後のAIガバナンスの行方を左右する可能性がある。