アルトマン氏らのAI減速提案をトランプ氏と習氏が拒否

AI減速を求める現在の動きは、元Anthropic研究者がXに投稿し拡散した、この技術が今十年の終わりまでに全人類を死滅させ得ると警告する投稿がきっかけだ。この投稿を受け、サム・アルトマン氏とダリオ・アモデイ氏はそろって米中がAI開発のペースで協調するよう求める声を改めて公にした。アルトマン氏は両首脳の功績に訴え、AI安全協定を結べばトランプ氏と習氏がノーベル平和賞を取り得るとFortuneに語った。

ワシントンと北京の反応は厳しく否定的だった。トランプ氏は9月14日、米国に必要な唯一のガードレールは「強く賢い（高IQ！）大統領」だと投稿し、同じ日、中国外務省の郭嘉昆報道官は米国の言説を「恐怖をあおる」ものと呼んだ。アモデイ氏の9月12日の書簡は特に分極化した反応を招き、中国では自己奉仕的だと読まれ、香港大学のブロシ・バビッチ教授は縮小する市場での優位を保つための「自己奉仕的な論説」と呼んだ。トランプ氏も書簡を非難し、Nvidiaのジェンスン・フアンCEOに電話で「ダリオが今週末に何を言おうと我々の進歩は止まらない」と述べた。

政治的やり取りの底には、より深い分断がある。中国では、DeepSeekのエンジニア、シェンユ・リウ氏のような業界人がオープンウェイトモデルを支持し、AnthropicやOpenAIを信用していないと述べる一方、中国のAI安全研究者はサイバーと生物安全保障のリスクを懸念し続けている。中国の世論は減速を米国が優位を保つ戦術とおおむね見ており、多くの中国人は自国政府がAI安全を管理することを期待している。両首脳が関心を示していないとみられる中、9月24日の会談が進展の出発点となるしかなく、関係筋によれば検査と政府の役割に関する基本合意はまだ整っていない。