AI政策が研究に遅れ、制約は政治的意思

何が起きたか

LessWrongの分析によると、AI安全保障研究はすでに破滅的リスクに対処するための十分な知識とベストプラクティスを生み出しているが、これらが適用・実施されていないと主張している。著者の推定では、世界で最も影響力のある上位約100～1,000人の政策立案者の大多数が、破滅的リスクについて真摯な議論を一度も行ったことがなく、国連グローバル対話への市民社会提出物の1%未満が実存的リスクに言及している。

なぜ重要か

AI安全保障の瓶首は、もはや巧妙な政策案の不足ではなく、意思決定者の認識と政治的意思の欠如である。政策立案者は問題の存在を信じないため懸念が生まれず、既存のベストプラクティスは適用されないままである。このことは、より良い研究だけでは問題を解決できないことを示唆しており、必要なのはAIガバナンスを形作る政策・指導者コミュニティとの関与である。

注目点

著者は、破滅的リスクに関する会話への政策レベルでの投資が不足していることを指摘しており、この隙間が既存の知識基盤が強制可能な国際的または国家的規制体制に転換されるかどうかを決定する可能性がある。