AI開発の速度緩和を提言

Amodei氏の論考は、AIの最も破滅的なシナリオをどこまで真剣に受け止めるべきかをめぐる広範な議論の中で出された。ニューヨーカー誌のコラムニストでジョージタウン大学教授のCal Newport氏ら批評家は、シリコンバレーの終末論を「大量不安の武器」と評し、コンピューター科学ではなく15年前のイデオロギー的コミュニティに根ざしていると指摘する。フィナンシャル・タイムズのコラムニストJanan Ganesh氏は10月10日、過去のパニックは具体的な出来事に基づいていたと述べ、警鐘はほぼ毎回脅威を先取りしすぎたと書いた。プリンストン大学教授Arvind Narayanan氏と同僚のSayash Kapoor氏は「AI as Normal Technology」で、AIは既に道筋のある過去の革命的技術に似ていると論じた。しかしAnthropicの警告は正式なIPO目論見書に記されている——投資家が哲学的思索ではなく深刻な法的開示として読む可能性のある文書だ。

論考の発表時期がAnthropicのIPO計画と重なる点は注目に値する。Anthropic自身が競い進む進歩そのものに減速を求める3,800語の呼びかけは、同社が安全性のメッセージと商業的野心をどう両立させるかという疑問を呼びかねない。同時に、Amodei氏が外部監視と国際協力を支持する姿勢は、核技術管理の過去の提案と重なる。同氏は新入社員に『The Making of the Atomic Bomb』を推薦する際にこの比較を以前から持ち出している。公開討論が決着する見込みは薄いが、Amodei氏の論考は、節目となる財務イベントを前に、業界で最も声高な安全性の擁護者の一人を明確に記録に残した。