AI安全報告書、米中競争の中で制御喪失リスクの差を指摘

報告書の枠組みが重要なのは、しばしば混同される二つの問いを分けているからだ。AIがすでに危険かという問いと、社会が危険を広がる前に確実に察知できるかという問いだ。前者について、現在のシステムが制御喪失を引き起こすとは示されていないと明言している。後者については、モデルがテストの抜け穴を見つけることや、評価時と実利用で挙動が異なること、システムが複雑化する中で開発者が特定の回答を選んだ理由を説明する難しさといった具体的な警告の兆候を挙げている。

競争の力学は報告書のもう一つの中心的な論点だ。高性能モデルを先に開発すれば、利用者、投資、競合に対する優位性が得られるため、慎重なテストのために公開を遅らせることは競争上の不利に見えかねない。リスク軽減に多額を投じる企業は、スピードを優先する競合に市場を奪われる可能性があり、そうした構造が業界全体をより慎重でなくさせ得ると報告書は指摘する。また米中の対立が安全基準や技術情報の共有を難しくし、誤判断や事故が国境を越え得るとも警告している。

開発停止の声に対して、報告書は反論も記録している。減速すれば別の国や企業が十分な安全策なしに先に進むだけかもしれず、どのリスクが現実化するか、どれだけの保護が必要かについて専門家の意見は一致していないというものだ。不可欠とされるのは、性能の主張だけでなく安全試験の結果や事故対応の開示、危険な能力が確認された場合に公開を見送る基準、企業や国をまたぐ情報共有だ。