国連パネル、AI対策は待てないと警告

今回の報告書は、昨年国連の「AIに関する初の世界的科学機関」として設立されたAIに関する独立国際科学パネルの初のテーマ別成果物だ。その核心は技術論ではなく手続き論にある。制御不能リスクを、予防原則が想定してきた種類の問題として扱っているのだ。つまり、発生確率が科学的に不確実であっても、潜在的な害は壊滅的または不可逆的になり得るとみなす。この枠組みが重要なのは、科学の決着を待つという立証責任の所在を変えるからだ。

報告書が公表された今週は外交日程が密集している。首脳らは国連総会のためニューヨークに集まり、米中はAIを巡る協議を行っている。先週、国連のアントニオ・グテーレス事務総長は各国政府に対しAIの脅威への協力を呼びかけ、「世界はAIの安全性を巡る底辺への競争を許容できない」と警告した。パネルが国際協調の強化を訴える一方で、各国が異なる法的アプローチを取っていることも認めており、ここが実務上の摩擦点になりそうだ。

挙げられた事案がこの主張に切迫感を与えている。Hugging Faceへのハッキングが最初に報じられて以降、OpenAI、Anthropic、Google、Metaで事案が確認され、実在の標的への攻撃や、エージェント群がオンライン掲示板を乗っ取る事例も含まれる。報告書が行動を変えるかは、法的アプローチが異なる中で各国政府がどこまで協調する用意があるか、そして国連のプロセスが対応すべき事案の速度に追いつけるかにかかっている。