Timnit Gebru氏、AI滅亡論は目そらし

Gebru氏の主張は真空から生まれたものではない。彼女は2018年にGoogleに採用され、同社のAIツールにおけるバイアスを評価する業務に就き、同僚の研究者たちとともに確率論的な大規模言語モデルの潜在的な危険性に関する論文を発表した。Googleはそれを却下し、彼女はほどなく同社を去った。2021年に書かれたその「確率的オウム」論文は、OpenAIがGPT-2を公開するには強力すぎるとして過大に宣伝し、業界が間違った問いを立てていると論じた。今日の彼女の立場は、同じ批判の延長線上にある。

記事は彼女の発言を二つの出来事と対比させている。「100万ドルの数学問題」をめぐる争いと、OpenAIが他の研究者の成果を先に解決に借用したかどうか、そして以前OpenAIで働いていたAnthropicの研究者が、両社のAI安全性への対応を理由に公開辞任したことだ。別のAnthropicの技術スタッフは、同社の人々は「AIが人類を滅ぼし得ると本当に心から信じている」と応じ、「個人的には今後10年以内に10%超だと思う」と付け加えた。Gebru氏はこうした懸念は「規制捕獲戦略の一部」だと主張し、この競争は「今は彼らのIPOに向けてただ殺伐としているだけ」だと述べる。

Gebru氏の核心的な主張は、AIを潜在的な存亡レベルの脅威として位置づけること——彼女が「機械神の物語」と呼ぶもの——が、自律型兵器、気候の悪化、上司が「厄介な労働者を追い出す口実」としてAIを使うことといった具体的な危険から注意をそらす役割を果たしているというもののようだ。この見方が支持を得るかどうかは、現在の高名な安全性研究者の辞任や公開論争の波が、世論と政策の関心を記録された短期的な害へと向かわせるか、それとも空想的な存亡リスクに集中させたままにするかにかかっているかもしれない。