AI安全専門家、ボトルネックは研究でなく政策と指摘

何が起きたか

AI安全研究者は、同分野が壊滅的リスク対策に必要な知識を十分に備えている一方で、政策立案者の認識は極めて低く、世界で最も影響力を持つ上位約100～1,000人の政策立案者の大多数がこの問題について真摯な議論をしたことがないと主張している。

なぜ重要か

利用可能な安全対策とその実施の間のギャップは、進展が新しい発見よりも政治的意志に左右されることを示唆している。深刻な規制体制はほとんどのリスクを軽減できるが、意思決定者の低い認識が行動を阻止している。

注目点

UN Global Dialogueへの1,534件の書面提出のうち、AI支配に言及したのはわずか1件、実存リスクに言及したのは1%未満であり、壊滅的リスク懸念が正式な政策論議でいかに周辺化されているかを示す信号である。