元Deepmind広報、人類絶滅リスクの言及禁じられていたと証言

Maini氏の証言は2018年から2022年を対象としており、この期間、同氏によればDeepmindの対外的なメッセージングでは人類絶滅リスクへの言及が一切禁止されていた。研究者たちはそうしたリスクを誇張として退け、「『ターミネーター』のような映画」と比較し、ヘルスケアや気候などの前向きな応用へ話題を転換するよう指導されていた。Maini氏によれば、内部的にはチームはAIアラインメント問題が未解決であること、そしてその問題に取り組む人があまりにも少ないことを知っていた。

その規則は維持されなかった。数カ月にわたる反発の後、Deepmindは規則を緩和し、前向きな枠組みの安全性コンテンツを許可した。絶滅リスクを親しみやすい言葉で包んだブログ記事も含まれる。Maini氏は、証拠を無視しにくくなった今、内部の知識と対外的なメッセージングの隔たりは縮まっていると述べる。

この証言は、危険な行為を可能にしかねない未保護のモデルや、人間の制御を超えかねない高度なシステムについて、ますます多くのAI安全性研究者が公に声を上げる中で出てきた。Deepmind自身の研究者もその一人だ。この変化が、そうした圧力がラボをより厳しいメッセージ管理へ戻すのを食い止め続けるかどうか、そして今公に声を上げている研究者たちがどう受け止められるかにかかっているように見える。