米中AI安全協定に信頼は不要 ワグマン氏

Wagman氏の主張は、AI業界内部からの最近の警告を受けたものだ。Jacob Coxon氏は自己改善型AIへの競争について警告を残してAnthropicを去り、CEOのDario Amodei氏は「フロンティアのペース配分」を公に呼びかけ、AI支援によるAI開発の加速を指摘した。Amodei氏は3つのレベルでの行動を提案し、その中には中国とのグローバルな協調も含まれるが、これが3つの中で最も難しい。

同氏が特定する核心的問題は、自制は相手も自制していると信じられる場合にしか意味をなさないという点だ。しかし米中は互いに不信感を抱き、プライバシー、監視、軍事利用で近く合意する見込みは薄い。Wagman氏の答えは範囲を狭めることだ。AIがどれだけ速く動くかではなく、自律型AI研究や生物・サイバー能力への急激な動きといった合意された警告サインに基づいて、いつブレーキをかけるかを交渉するのである。

同氏の金融活動作業部会（FATF）での経験は前進の道を示唆する。互いに不信感を抱く国々でも、限定的な脅威については合意でき、専門的評価で遵守状況を評価し、その結果が集団的結果を生む。フロンティアAIでは、米中が中心となり、技術専門家が警告サインの発動を判断し、より広い連合が半導体、クラウド基盤、資本、市場を通じて違反のコストを高めることになる。こうした限定的な取り決めが生き残れるかは、両大国が同じ破局を恐れ、それが到来する前に行動するのに十分かどうかにかかっている。