AI首脳らAI安全協定に署名 自主規制でトランプ氏

今週署名されたAI安全協定は、それが対象とする業界による自主規制という、より広いパターンの中に位置づけられる。記事はこのアプローチを、1960年代の道路安全に対する米国政府の対応と対比する。当時は、判断を自動車メーカーに委ねるのではなく、連邦の権限を用いてシートベルトを義務付けた。また、この比較の現在の限界も指摘する。AIにはシートベルトに相当するものがなく、潜在的な害はより不確実で定量化しにくく、リスクに対する見方は人類絶滅のシナリオから、そうした主張はマーケティングだという懐疑論まで幅がある。

記事の中では、いくつかの事実が協定の帰結として提示されることなく、協定と並んで記されている。OpenAIは安全保障上の懸念から最先端モデルのリリースを遅らせ、中止してきたが、記事はこれがハッキングの連続の後だったと付け加えている。最近のCNNの報道は、AIが生成した虚偽の報告が核物質を積んでいるとしたことが一因で、米軍が中国船に乗り込む寸前だったと伝えた。またTIMEのインタビューで、トランプ氏は司法省と連邦捜査局が業界にとって十分なガードレールだと示唆した。

この協定が何を成し遂げるかは、競合するラボによる自発的なコミットメントが、それを強制する仕組みなしに維持できるかどうか、そして米国経済のAI融資への依存が取り締まりへの意欲を制限するかどうかにかかっているだろう。AIラボの経営陣や安全担当者にとって、実践的な試金石は、自主規制が今後の内部のリリース判断を変えるかどうかかもしれない。