超知能めぐりホワイトハウス合意に署名

著者の主張の根拠は2023年、ホワイトハウスの状況室での出来事にある。H5N1インフルエンザがカンボジアの遠隔の村で父親に感染し娘が死亡したとき、国家安全保障担当補佐官はバイデン大統領にすぐ報告すべきか尋ねた。著者は待つよう言った。警報が届く前に発動基準が合意されていたからだ。持続的な人から人への感染である。近隣の救急外来の監視データを過去数年と比較すると、症例は予想外に多くはなかった。

著者が今欠けていると指摘するのは同じ基準だ。ビル・ゲイツ氏はAIが今年いくつかの閾値を超えたと警告し、その一つに生物攻撃能力を挙げ、最も懸念される閾値は数百万を殺害しうる生物テロ兵器をAIが設計できるかどうかだと述べた。Anthropicの最高経営責任者は、生物兵器製造へのAI利用を禁じるよう国連安全保障理事会に支持を求めた。著者は、H5N1への集団免疫はほとんどなく、ヒト症例の約半数は致死的で、ウイルスはまだ人から人へ効率的に広がっていないと指摘する。

論文は設計と物理的能力を区別する。病原体を作る研究手順を書くモデルは、それを作れる人物ではない。ウイルスを増やすには合成DNA、装置、四方を壁に囲まれた実験室が依然必要だ。著者はその障壁こそ、AI自体ではなく、DNA合成事業者やクラウド実験室、卓上合成装置を含めてスクリーニングと追跡を広げるべき場所だと論じる。