AI研究者、人類絶滅の確率を18％と回答

最近の議論の波はAnthropicの研究者Jacob Coxon氏の1つのツイートがきっかけだが、記事は論点自体は新しいものではないと指摘する。科学者や一部の技術経営者は何年も前から、AIが人間の目標を追求する中で制御を失う可能性があると警告してきた。変わったのは緊迫感であり、議論は警鐘を鳴らす人々の動機にますます焦点が移っている——Coxon氏が単に恐怖を吐露したのか、ビジネス上の理由でAI開発を減速させる戦略的な狙いがあるのかどうかである。

AI Impactsの調査はそうした警告に数値的な裏付けを与えている。1,500人以上の研究者の間で2024年時点の絶滅または永久的な無力化の平均確率は18％で、多くは10％超、一部は100％と回答した。加えて、研究者たちは2016年以降、調査のたびに人間レベルのAIの時期を前倒ししており、57％が2029年までにユーザーがAIの意思決定の真の理由を理解するとは考えにくいとしている——これはDaniel Selsam氏の、システムの監視と評価が難しくなっているという指摘と一致する。

調査が示す今後30年間の最大の懸念は、機械による支配ではなく人間が引き起こすものだ。AIによる誤情報、世論の操作、危険な集団が強力なツールを入手することである。存亡シナリオは中位に位置する。AIの安全性とガバナンスのチームにとって実務的な問題は、Bilal Chughtai氏のような人物の訴え——AI企業間の協調、速度の鈍化、透明性の向上——が支持を得るのか、それとも警鐘を鳴らす人々の動機をめぐる意見の相違によって、議論が測定されたリスクではなく発信者に焦点を当て続けるのかである。