AIは生物兵器の真の障壁ではない

AIと生物兵器をめぐる議論は今年急速に進んだ。今夏の初め、AI企業のCEOたちは合成DNA製造を規制する法律を求めた。先月、スタンフォード大学とArc Instituteの研究者らはAIが新しいウイルスゲノムを設計できることを示した。先週、AnthropicはClaudeを生物兵器開発を支えうる方法で使おうとする試みがあったとする報告書を公表し、CEOのDario Amodei氏は政府にAIラボのフロンティア進行の速度調整を支援するよう促した。この流れが問いを理論から政策へと押し出した。

ここで引用された科学者らは、AIが根本問題を変えるという考えに異を唱える。David Bellamy氏は、科学界が危険な生物学研究の公開をめぐる二重用途のジレンマと何十年も格闘してきたと指摘する。大規模言語モデルの前から、インターネット、オープンアクセスジャーナル、Google Translateのような翻訳サービスが実験プロトコルへのアクセスをすでに広げていたと同氏は言う。Jason Kelly氏は実務的な層を加える。OpenAIとのGinkgo BioworksのプロジェクトでGPT-5が実験室を運営したが、人間が要求を拒否できたためAIは実験室を乗っ取れなかった。Francois Belloux氏は、病原体は兵器として過大評価されていると主張する。標的集団への到達と分配は代替手段より物流的に難しいからだ。

全員がリスクを軽視しているわけではない。Institute for ProgressのOlivia Scharfman氏は、完全自律型の実験室はまだ存在しないが、AIが誰かにお金を払って作業させることができ、AI支援のバイオテロを差し迫った脅威と見ている。RandのSteph Guerra氏は、AIが生物兵器リスクを実証的に高めるかは答えにくく、対策は常に回避可能だとして、経路全体にわたる多層的な摩擦を現実的な目標とする。したがって賭け金は、AIが病原体を設計できるかどうかよりも、スクリーニング規則、監視、データ共有がどれだけ早く整備されるかにかかっているかもしれない。