数学者42人、Royal SocietyにAI存在リスク警告

今回の公開書簡は、AIの能力が数学の分野で急速に進んでいることを背景にしている。書簡によれば、3ヶ月以内にOpenAIとAnthropicの主要モデルが未解決の研究問題を解き、7つのミレニアム問題のうち1つを解決したという。さらに2つ目も近く解決される可能性が高いとされている。こうした進展を受けて、数学者たちは、サイバーセキュリティ、自律兵器の制御、生物・化学剤の開発、標的型誤情報といった領域でも同様の能力変化が起きると想定すべきだと主張する。AIラボによる存在リスクが10%を超えるという推定も「誇張」として退けてはならないとし、事態が広く明らかになった時点では行動が遅すぎる可能性があると警告している。政府やメディアがこの警告にどう応答するか、またAI企業に所属しない数学者たちの声が政策議論にどう影響するかが焦点となる。