AnthropicCEO、AI減速訴え

アイザック・アシモフのロボット三原則は1942年に初めて発表され、後に1985年の小説『ロボットと帝国』で第零法則が加えられ、個々の人間への危害を防ぎ、次に人類全体への危害を防ぐという枠組みでロボットの安全を捉えた。記事は、この懸念が今や生成AIとロボティクスに当てはまると論じ、第1法則を開発の核心原則として組み込んでいる企業はAdvanced Robotic Technologies Inc.ただ一社だと指摘する。そうした背景の中で、Anthropic CEOのダリオ・アモデイ氏は9月12日の投稿「We Must Pace the Frontier」で、フロンティアAIモデルとエージェント型AIの減速を明示的に訴え、自律エージェントの群れは人間が知らないうちに一斉に行動し、痕跡を消す恐れがあると述べた。

アモデイ氏の警告は幅広い合唱に加わるものだ。OpenAIのサム・アルトマン氏、イーロン・マスク氏、ビル・ゲイツ氏も懸念を示してきた。AnthropicとOpenAIの元研究者ジェイコブ・コクソン氏は、エージェント型AIの急速な開発による人類絶滅の確率を10％と主張し、Anthropicのアラインメント科学責任者エヴァン・ハビンガー氏はやや高めに見積もった。別に「We Must Act Now」と題した声明には2,500人を超える著名人が署名し、即時の行動を求めている。マーク・ワーナー上院議員は2026年7月21日、National Workforce Transition Fundを盛り込んだ「A Framework for America's AI Future」を提出した。NVIDIA CEOのジェンスン・フアン氏はAIの危険性は誇張されていると反論し、トランプ大統領のAI顧問デビッド・サックス氏は、行政措置なしでも業界はガードレールで合意できると述べた。

鍵を握るのは、業界の自発的な取り組みとワーナー氏の枠組みのような法案のどちらが先に動くかだ。記事は、AIの拡大により2年以内に大卒者の最大30％が就職できなくなる恐れがあると警告する一方、その推計は悲観的すぎる可能性もあると注記する。中堅のホワイトカラー労働者が今最も脆弱だとされる。結果は、AIの能力が、記事がまだ欠けているとする制度移行の道具を追い越す前に、政策立案者と開発者が行動できるかどうかにかかっている。