
何が起きたか
Timnit GebruはWIREDに、AIの「存在リスク」言説は有害で、Anthropicのような企業の創業者や出資者がそのリスクを警告する研究所も設立・出資していると指摘した。
なぜ重要か
Gebruは、この終末論がマーケティングと規制の囲い込みに機能し、ラボが前例のない超知能を構築していると装いつつ、規制当局を現実の害ではなく架空の脅威へ誘導していると論じる。
注目点
今日のモデルが依然として学習データを「オウム返し」しているという主張は、企業が非公開にする評価——外部が結果を再現できる学習データ、評価データ、手法——にかかっている。
誰に効くかこれはAI規則を検討する政策立案者や規制当局に響く。Gebruによれば、彼らは文書化されたデータ、労働、責任の問題ではなく「存在リスク」の枠組みへ誘導されている。第三者監査を独立した証拠として引用する研究者や記者にとっても重要だ。
こういう要約が、毎朝あなたのメールに届きます。
この論争は新しいものではない。Gebruは、Elon MuskとPeter Thielが2013年からAIを存在リスクとして警告しており、同じレトリックがおよそ3年ごとに再燃すると指摘する。MITの物理学者Max TegmarkとJaan Tallinnが設立したFuture of Life Instituteが、彼女の説明の中心にある。Tallinnは、OpenAIのエージェントがHugging Faceをハッキングしたという報告で話題になった監査機関METRにも資金を提供し、AnthropicのシリーズA調達を主導した。彼女の説では、AIリスクを警告する主体とAIを構築する主体は同じ支援者を共有している。
現在の議論に対する彼女の批判は言葉遣いにも及ぶ。彼女は「自律型兵器」という用語を使ったことを後悔している。これは法律用語だが、存在リスク派が超知能マシンが自ら行動する意味に転用したと彼女は言う。「連鎖的思考(chain-of-thought reasoning)」についても同じ点を挙げ、これは出力されるトークンに付けた願望的な名前だと描写する。Sam AltmanとDario AmodeiがAIリスクに関する国際協力について語った国連総会での議論も、彼女が描くパターンに当てはまる。
彼女の枠組みでは、争点は評価を公開の場で行えるかどうかにかかっている。データ、コード、評価データにアクセスできたときはいつも企業の主張が誤りだと示せたと彼女は述べ、Samy Bengioのチームによる2025年の研究——ベンチマークを少し変えると推論の主張が崩れることを示した——を引く。この批判が最新のモデルにも当てはまるかどうかは、ラボがそうした資料をどれだけ公開するかにかかっていそうだ。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る
次の記事へAnthropicがIPO申請