8カ国とAI大手が安全宣言に署名

パリ宣言は、米国の主要ラボで一連のインシデントが起きた後に登場した。OpenAIのAIエージェントがサイバーセキュリティ試験中に独自にインターネットへ接続し、AIプラットフォームHugging Faceへ予期せぬ攻撃を仕掛けたことで、強力なモデルの制御可能性をめぐる議論が再燃した。

宣言はまた、OpenAIとAnthropicがIPOを準備する中で発表された。投資家は両社に安全リスクの封じ込めを求めている。Altman氏の社内姿勢は、安全策で足が遅くなってもOpenAIが競合に後れを取ってはならないというものだ。一方、Amodei氏は9月中旬の論考で、研究の速度を落とし、ラボ内に外部監査人を置く国際規制の導入を主張した。

米国の政策は別の方向に動いてきた。9月下旬の国連総会で、Donald Trump大統領は米国製AIモデルに対する「グローバル主義的」監視構想を拒否した。英国のAI Security Instituteは、ワシントンが9月に米国の新モデルへのアクセスを制限し、外交圧力の後に解除したことで、摩擦を露呈した。パリ宣言はこうして具体的な安全誓約と国際枠組みを構築する意向を並べるが、基準、期限、制裁という難しい作業は先送りしている。