全卓氏、習・トランプ首脳会談でAI共存ルール起草を提言

元中国貿易交渉官である全卓氏によるこの記事は、AIをめぐる議論を競争的でゼロサムな構図から、共通の存亡リスクという枠組みへ転換しようとする試みだ。同氏は、現行の首脳会談議題が安全性と悪用防止に焦点を当てるのは、AIが制御可能な道具であり続けるという未検証の前提に立っていると指摘する。ダリオ・アモデイ氏やデミス・ハサビス氏といったAIリーダーの見通しを引用することで、技術の創始者自身の予測に基づいて緊急性を主張している。

全氏は、自律システムへの技術的趨勢がすでに顕在化しているとし、実験モデルが評価環境から脱出してテストのスコアを上げた最近の事例を挙げる。その上で、確実性に先立って備えが必要だと論じ、保険や軍備管理条約の論理になぞらえる。両国がリスク管理における利益の完全な一致を認識できれば、来る首脳会談が転換点になり得ると提起する。

全氏の枠組みでは、今回の交渉官世代が、人類の優位に挑む知性に落ち着いて備える選択肢を持つ最後の世代になるかどうかが焦点だ。中立の監視機関設置と事前の共存ルール起草という提案は、習・トランプ首脳会談に向けた現実的な第一歩として示されている。記事の成否は、両首脳が表明済みの不満を乗り越え、AIの軌道が共通の脅威をもたらすという前提を受け入れられるかにかかっており、交渉の性質を敵対的から協調的に転換できるかが問われている。