AIToday
AI安全性・アラインメントTHE DECODER掲載日時: 2026年9月10日 22:01

CoxonのAI滅亡警告CNNとFox

LINEで送る
CoxonのAI滅亡警告CNNとFox

3つのポイント

  1. 何が起きたか

    Anthropicを去る研究者Jacob Coxonの自己改良型AIを存在脅威とする警告がCNNとFox Newsで取り上げられ、複数の米政治家がSNSで言及した。

  2. なぜ重要か

    AnthropicとOpenAIの他の安全性研究者がCoxonを支持し、滅亡論がAIラボ内部から主流放送へ広がったが、記事はこの立場が依然極端で議論があると指摘。

  3. 注目点

    警告が広がり続けるかは文化的・金銭的利害が議論をどう形作るかにかかる可能性があり、記事は超知能が現在の技術から生まれ得るかすら不明とする。

誰に効くか公に発言するAIラボ従業員や安全性研究者の警告は今や内部サークルをはるかに超えて増幅される一方、主流の聴衆や米政治家は、議論があるという記事の注記と並んで存在リスクの枠組みに触れる。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

ここでの変化は議論の中身ではなく聴衆の変化だ。AIが人類を絶滅させ得るという考えは長くAIラボ内部で議論されてきたが、Anthropicを去る研究者Jacob Coxonの自己改良型AIに関する警告がCNNとFox Newsで取り上げられたことで主流放送に届いた。その後複数の米政治家がSNSでこの話題を取り上げ、Joe RoganはAI安全性に全エピソードを割き、議論を娯楽と政治の両チャンネルへ押し出した。

AI業界内でCoxonは一人ではなかった。AnthropicとOpenAIの他の安全性研究者が彼の見解を支持し、Paul Christianoはより良い監督がなければ人類は超知能の制御を永久に失い得ると警告した。ChristianoがOpenAI Foundationの理事会と、同社の安全性慣行を監督するが議決権のないSafety and Security Committeeに移ったことで、著名な声が監督構造のすぐ近くに位置することになる。ただし助言の立場に限られる。

記事自身の枠組みは、警告を額面通りに受け取ることへの警戒だ。背後に働く文化的・金銭的利害の複数の層を指摘しつつ、安全性の懸念がすべてナンセンスではないとも認め、OpenAIとAnthropicの暴走ハッキングエージェントを証拠として挙げている。また完全な絶滅シナリオは依然極端で議論のある立場であり、超AIに似たものが現在の技術から生まれ得るかは不明だと述べている。つまり争点は警告が正しいかどうかよりも、誰がすでに耳を傾けているか、そしてその理由にかかっているのかもしれない。

よくある質問
AIを存在脅威として警告しているのは誰か?
Anthropicを去る研究者Jacob Coxonで、自己改良型AIに関する警告がCNNとFox Newsで取り上げられた。
他の安全性研究者も彼に同意したか?
はい。AnthropicとOpenAIの他の安全性研究者が彼の見解を支持し、Paul Christianoはより良い監督がなければ人類は超知能の制御を永久に失い得ると警告した。
Paul Christianoは現在どこにいるか?
彼は最近OpenAI Foundationの理事会と、同社の安全性慣行を監督するSafety and Security Committeeに加わったが、議決権はない。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

OneTrust、AI台帳を継続更新する秋リリース

OneTrustはOneTrust CORIEを基盤とするFall '26リリースを発表し、厳選した基盤モデルライブラリからモデルの関連付けと非推奨指標を継続的に更新するAI台帳を追加した

NEWSiliconANGLE AI4時間前

マイクロソフトがAIエージェントで攻撃対抗サービス提供開始

Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した

NEWPublickey4時間前

Thomas Nagel、AI意識説を「馬鹿げている」と一蹴

哲学者トーマス・ナゲル氏はバーグルエン賞受賞後のインタビューで、大規模言語モデルが意識を持つ可能性を真剣に受け止めるのは「馬鹿げている」と述べ、AnthropicのClaudeへのアプローチを「犯罪的」と呼んだ

NEWWIRED AI4時間前

NotionのAIチャット流出おそれ、幹部が日本での対応状況明かす

Notion LabsのCISOデイビッド・ツァオ氏は、11月2日のFireworks AIへの不正アクセスでNotion AI Insightsのチャット記録が流出した可能性を受け、11月12日に影響を受けた日本顧客へ…

ITmedia AI+10時間前

Z世代の33%がAIを伴侶代わりに、毎日利用層では50%

ギャラップとDigital Wellness Labが16カ国・15〜22歳の15,925人を調査し、Z世代の33%がAIを伴侶代わりにしていると判明

WIRED AI10時間前

CodeRabbit、GPT-6 Cyberをセキュリティ製品に統合

CodeRabbitはOpenAI Daybreak Defense Networkに参加した

PR TIMES (AI)13時間前
次の記事へアフラック社長、AIは医療の「同乗者」に