ピンカー、AI終末論は過大と主張

Pinkerの公開書簡は、人類絶滅の20パーセントという主張が支配的だったAI安全議論の絶滅重視派からの公然たる決別を意味する。大規模言語モデルの能力を過小評価し、AI企業が製品を無謀に公開するとは予想しなかったと認めることで、Pinkerは技術の軌道については譲歩しつつ、起こりうる結果には異を唱えている。その拙速な公開の責任を、リスクを警告するのと同じコミュニティの人間に帰し、この緊張を皮肉なものとして描いている。

彼が挙げる代替の危険リスト——生物テロ、サイバー攻撃、制御されないAIエージェント——は、知性と支配欲を混同していると批判する紙クリップ最大化装置の思考実験より狭く具体的だ。この区別が重要になるのは、独立した監督、責任、人間の制御という彼の挙げる対策が、投機的な絶滅シナリオと違い、今すぐ設計し執行できる種類のものだからだ。一方Scott Alexander自身の6月の立場も、より良い安全研究と開発を遅らせる国際合意を支持しており、行動の必要性については両者完全に対立しているわけではない。

ここでの焦点は、Pinkerの枠組みが安全の議論を修辞的な警告からエンジニアリングと法的な安全策へ動かせるか、そしてその転換が、実施を担うラボや政策立案者に訴求するかどうかにかかっている。AIガバナンスを追う読者は、彼が支持する監督と責任の提案が実際にどう取り上げられるか注目するとよいだろう。もっとも本文はその時期や場について何も特定していない。