CoxonのAI滅亡警告CNNとFox

ここでの変化は議論の中身ではなく聴衆の変化だ。AIが人類を絶滅させ得るという考えは長くAIラボ内部で議論されてきたが、Anthropicを去る研究者Jacob Coxonの自己改良型AIに関する警告がCNNとFox Newsで取り上げられたことで主流放送に届いた。その後複数の米政治家がSNSでこの話題を取り上げ、Joe RoganはAI安全性に全エピソードを割き、議論を娯楽と政治の両チャンネルへ押し出した。

AI業界内でCoxonは一人ではなかった。AnthropicとOpenAIの他の安全性研究者が彼の見解を支持し、Paul Christianoはより良い監督がなければ人類は超知能の制御を永久に失い得ると警告した。ChristianoがOpenAI Foundationの理事会と、同社の安全性慣行を監督するが議決権のないSafety and Security Committeeに移ったことで、著名な声が監督構造のすぐ近くに位置することになる。ただし助言の立場に限られる。

記事自身の枠組みは、警告を額面通りに受け取ることへの警戒だ。背後に働く文化的・金銭的利害の複数の層を指摘しつつ、安全性の懸念がすべてナンセンスではないとも認め、OpenAIとAnthropicの暴走ハッキングエージェントを証拠として挙げている。また完全な絶滅シナリオは依然極端で議論のある立場であり、超AIに似たものが現在の技術から生まれ得るかは不明だと述べている。つまり争点は警告が正しいかどうかよりも、誰がすでに耳を傾けているか、そしてその理由にかかっているのかもしれない。