米中対話の専門家、AI攻撃への備え促す

記事によれば、提案は米中対話から出たもので、その作業は公式協議に情報を提供するのに役立つ。このチャンネルは、より強力で自律性の増すシステムへの懸念が高まる中で存在している。提案をまとめたのは米中の安全保障専門家だ。

記事は具体的なリスクを描く。AIシステムが核指揮網に干渉したり、軍事的サイバー作戦を開始したりする事態だ。こうしたシナリオでは、ワシントンか北京は、どちらの政府が攻撃したかを数分で判断せざるを得なくなる可能性がある。専門家は両国政府にこうした事態への備えを促しており、提言には核システムに関するレッドライン、重大なサイバー攻撃に対する人間の制御、自律型AIが関与する事案のホットラインが含まれる。

結果は、ワシントンか北京が対話からの提言に基づいて行動するかどうかにかかっている。記事はどちらの政府も提案を支持したとは述べていない。双方の安全保障当局者や政策立案者にとって、対話の価値は、そうした事案が起きる前に公式協議を形作るかどうかにあり、即時の政策変更にはないかもしれない。