Altman、競合と足並みのAI開発鈍化を支持

今週の変化は新たな惨事ではなく、AIの最も極端なリスクについて誰が語るかが変わったことだ。数十年来、AIが人類という種に重大な脅威をもたらすという警告は主流から外れた場所にとどまり、Elon Musk氏、Sam Altman氏、Geoffrey Hinton氏のような人物が時折発する程度で、一般大衆が口にすることはほとんどなかった。記事によれば、変わったのはAnthropic、OpenAI、Google DeepMindの従業員による辞任の連打に、Hugging Faceの事件の報道とAIエージェントの実体験が重なり、制御喪失への懸念に関するオーバトン・ウィンドウが広がったように見えることだ。タイミングも重要だった。AnthropicはIPO直前で、OpenAIも上場に近づいている。

議論が動くと、反応は大きく割れた。Altman氏とAmodei氏は協調的な鈍化という考えで一致し、Amodei氏は独占禁止法の適用除外と独立したオンサイト評価者を提起し、Altman氏はペース配分は停止を意味しないと述べた。議員らは人工超知能の全面禁止から破滅的な害を防ぐ義務まで幅広い提案で続き、元大統領Barack Obama氏は民主党にAIガバナンスを中心に据えるよう促した。反発も同じくらい直接的だった。Trump氏はAmodei氏を名指しで批判し、Mike Johnson下院議長は恐怖はメディア主導だと述べ、中国国営メディアはAmodei氏の提案を利己的な冷戦戦術とレッテルを貼った。記事は、大統領令や実際の立法の見通しは少なくとも11月の中間選挙後まで乏しいと結論づけている。

そこに残るのが、記事が浮かび上がらせた実務的な問いだ。独占禁止法への懸念は正当か、製造物責任法で十分か、協調的な安全基準は規制の虜囚化に当たるのか。いずれも未解決だ。鈍化が実際に実現するかどうかは、自発的な約束に何らかの執行メカニズムを与えられるか、そして関係企業が政治的な窓が移る前に合意できるかにかかっている。