アモデイAI減速案にトランプ氏と北京が反発

アモデイ氏の論考「We Must Pace the Frontier」は9月12日に公表され、最先端AIシステムへの自制を業界内部から求める声として登場した。Sam Altman氏の支持を得て、同氏は従業員と同等のアクセス権を持つ外部評価者をOpenAIに受け入れると約束し、Elon Musk氏も「Dario is right」とだけ書いて支持した。2日後、政治的反応が正反対の方向から届いた。トランプ氏はAIが人類を滅ぼすという警告を気候変動の警告になぞらえて「HOAX」と一蹴し、Truth Socialで「High IQ」の大統領だけがAIの安全策だと主張した。北京の外交部報道官、郭嘉昆氏は、減速の呼びかけと、中国のAI主導が米国の国家安全保障を脅かすというアモデイ氏の主張を組み合わせた質問に答え、「恐怖をあおり、対立と悪質な競争」を批判し、開かれた包摂的なAI開発とガバナンスを求めた。国営メディアのGlobal Timesは9月13日の社説で、中国を最先端AIチップから排除しようとする提案の呼びかけを「冷戦の手口」と呼んだ。

アモデイ氏の提案の本体は、同意しない競争相手を対象とする規制と政府の支援も求めている。特定の協議に対する限定的な独占禁止法の適用除外も含む。この要請は記事が明示する緊張関係を反映している。単独で作業を減速する企業は競合に先に進む時間を与えかねず、それが政府の調整を求める理由でもある。しかし各ラボはどのアクセスと監督を認めるかを独自に決められる。外部評価は公約を判断する具体的な手段の一つで、アモデイ氏は不利な結果を公表できるレビュアーを提案し、指定の削除を条件としている。評価者の名前、開始時期、アクセス条件、公表された結果が揃えば公約を判断しやすくなり、AnthropicとOpenAIの対応次第で監督が開発判断に影響するかが分かる。

トランプ氏と習氏は9月24日に会談を予定しており、AIガバナンスが議題になる見通しで、協調的減速を議論する明らかな機会となるが、協議の範囲は不透明だ。トランプ氏がAIの破滅的リスクを一蹴したことで、その前提での合意は難しくなり、北京が対立や中国を狙った制限に反対していることは、誰がどの条件で制限を受けるかという別の問題を提起する。アモデイ氏自身は、包括的な減速よりも生物兵器の制限とリリース前のテストを合意しやすい分野として挙げている。広範な協調が行き詰まった場合、注目すべきはより狭い道筋かもしれない。