AIToday
大規模言語モデルAI安全性・アラインメントAI規制・政策Semafor Tech掲載日時: 2026年9月9日 22:01

Anthropic研究者が辞職、「人生を賭ける行為」

LINEで送る
Anthropic研究者が辞職、「人生を賭ける行為」

3つのポイント

  1. 何が起きたか

    元OpenAIのJacob Coxon氏がAnthropicを辞職し、「自己改良型スーパーインテリジェンス」への業界の突進は「人生を賭ける行為」と警告。

  2. なぜ重要か

    Coxon氏は、Anthropicが唯一責任ある研究所と自負しながらも先陣を切る競争をしており、OpenAIも「文明規模の危機を内面化していない」と指摘。

  3. 注目点

    別のAnthropic研究者は「AIが全人類を殺す可能性」を10年以内に10%超と個人的に推定。各社首脳は、急速な進展時にはAI開発を抑制する政府支援ツールを求める声明に署名。

誰に効くかAnthropic、DeepMind、OpenAIなどの主要研究所のAI研究者と幹部は、内部の反対意見と実存的リスクに関する公の警告に直面している。彼らの信頼性と政策的影響力は、こうした懸念への対応次第で左右される可能性がある。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

AnthropicとOpenAI内部からの辞任と警告は、超知能の追求をどう扱うかについてのAI業界の深い分裂を浮き彫りにしている。Jacob Coxon氏の離脱は、OpenAIから、この競争において責任ある主体と目されるAnthropicに移っただけに注目される。自己イメージに反してAnthropicが依然として先陣を争っているという彼の批判は、慎重であろうとする研究所でさえ競争圧力に巻き込まれ得ることを示唆する。

Anthropic、DeepMind、OpenAIの最高幹部による政府介入を求める声明は、こうした懸念が最高レベルに達していることを示している。ただし「政府支援のツール」への呼びかけは曖昧で、具体的な政策には結びついていない。Coxon氏が示唆するように、公の声明と実際の行動のギャップが問題の核心かもしれない。

匿名のAnthropic研究者が述べたように、リスクは実存的であり、個人的には今後10年以内にAIが人類絶滅を引き起こす確率を10%超と推定している。これらの警告が開発ペースの意味ある変更につながるか、それとも内部の異議に留まるかが、業界が最も重大な課題にどう立ち向かうかを左右するだろう。

よくある質問
Jacob Coxon氏はなぜAnthropicを辞めたのか?
自己改良型スーパーインテリジェンスへの業界の突進が人命を賭けていると考えるため。AnthropicもOpenAIも危機の重大性を十分に認識していないと主張した。
2人目のAnthropic研究者はAIリスクについて何と言ったか?
「我々は真剣にAIが全人類を殺し得ると信じている」と述べ、「個人的には今後10年以内にその確率は10%超だと思う」と付け加えた。
AI企業の幹部は何を求めているのか?
Anthropic、DeepMind、OpenAIのトップ幹部は、進展が急激に加速した場合にAI開発を遅らせるための政府支援ツールを求める声明に署名している。
Semafor Tech元記事を読む
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

OneTrust、AI台帳を継続更新する秋リリース

OneTrustはOneTrust CORIEを基盤とするFall '26リリースを発表し、厳選した基盤モデルライブラリからモデルの関連付けと非推奨指標を継続的に更新するAI台帳を追加した

NEWSiliconANGLE AI4時間前

マイクロソフトがAIエージェントで攻撃対抗サービス提供開始

Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した

NEWPublickey4時間前

Windows Server 2028がパブリックプレビュー公開

Microsoft Ignite 2026でWindows Server 2028のパブリックプレビューが公開され、Microsoft Foundry、Windows ML、vLLM、Llama.cppによるAI推論ホス…

NEWPublickey4時間前

AUMOVIOがLLMの唯一の経路をDatabricksに統一

AUMOVIOはDatabricks Unity GatewayをLLMへの唯一の経路に採用

NEWDatabricks AI Blog4時間前

CADMAGEDDON、5ベンチマークで最先端CADモデル超え

CADMAGEDDONはBenchCADの64³ボクセルIoUで、1000部品のサブセットにおいて0.991を記録し、Claude Sonnet 5.5の0.963、Claude Opus 5.5の0.962、GPT-6…

NEWAI Weekly4時間前

MIT Technology ReviewのAI指数、AIは遍在

MIT Technology ReviewのAI誇大広告指数はAIの広がりを示し、GoogleのAI Overviewsが広告収入で数十億ドルを失わせたことやAI支援のサイバー攻撃を挙げた

NEWMIT Technology Review AI4時間前
次の記事へGPT-6 Astra、ARC-AGI-3で99.9%