David Robinson氏、OpenAI退社

Robinson氏は外部の批判者ではない。OpenAI在籍中、主要モデルのリリースごとに添付される安全性報告書を執筆しており、その辞任は、ラボの実態を知らない人物の不満として片付けるのは難しい。The Atlanticの論説で同氏は、問題は欠けたルールではなく文化にあると主張する。シリコンバレーは「極度の自信」と「絶え間ないスプリント」で動いており、潜在的な問題を無視あるいは過小評価する「妨げられない楽観主義」の下で、より大きく優れたモデルを作り続けているという。だからこそ同氏の提言は手続き的ではなく構造的なものになる。フロンティアラボは原子力発電所や混雑した空港のように運営されるべきで、多重の冗長性と、慎重で時間のかかる計画によって、時折避けられない人為的ミスが惨事への扉を開かないようにすべきだとする。

同氏は一人ではない。Robinson氏は、著名なAI企業を去った研究者や安全担当者の増え続ける一群に加わった。この波はAnthropicを辞め、AIは「今世紀末までに我々全員を殺しうる」と公言したJacob Coxon氏に始まったとみられ、続いてGoogle DeepMindのRobert O'Callahan氏、Bilal Chughtai氏、Josh Engels氏、そしてAnthropicのJoe Benton氏が離れた。彼らが揃うことで、一人の不平に見えかねないものが、ラボが一蹴しにくいパターンへと変わった。

この論説が提起する根本的な緊張は、スピードと慎重さの間にある。ラボがこうした退社を評判管理の問題として扱うのか、Robinson氏が示すようにリリース過程そのものをより遅く多層的にする必要がある証拠と捉えるのかが問われる。それは、さらに多くのスタッフが同じ道を辿るかどうか、そして企業がその前に何かを変えるかどうかにかかっているだろう。