Anthropicが、AIが人間の関与なしに自らを改善する可能性が近づいていると警告し、業界全体のAI開発の一時停止を呼びかけ

Anthropicのブログ投稿で、Marina FavaroとJack Clarkが、同社のコードベースにマージされるコードの80%以上がClaudeによって書かれており、エンジニアが2025年前より約8倍のコードを四半期ごとにリリースしていると述べた。

著者らは、このような進展の先にある「再帰的自己改善」（AIシステムが人間の各ステップの関与なしに、自ら後継システムを設計・構築・訓練するプロセス）という閾値に到達する可能性があり、それが「ほとんどの機関が準備できているより早く来る可能性がある」と警告した。

Anthropicは、「複数国の、フロンティア付近にある複数の資金が十分な研究所が同じ条件の下での停止に同意する場合のみ」のAI開発の一時停止を提唱した。同社は先週、IPOに向けた機密書類を提出し、過去1ヶ月でOpenAIを上回り最も価値のあるAI研究所となり、約$965 billionの評価を受けている。