AI政策が研究に遅れ、制約は政治的意思

何が起きたか

LessWrongの分析によると、AI安全保障研究はすでに破滅的リスクに対処するための十分な知識とベストプラクティスを生み出しているが、これらが適用・実施されていないと主張している。著者の推定では、世界で最も影響力のある上位約100～1,000人の政策立案者の大多数が、破滅的リスクについて真摯な議論を一度も行ったことがなく、国連グローバル対話への市民社会提出物の1%未満が実存的リスクに言及している。

注目点

著者は、破滅的リスクに関する会話への政策レベルでの投資が不足していることを指摘しており、この隙間が既存の知識基盤が強制可能な国際的または国家的規制体制に転換されるかどうかを決定する可能性がある。