Anthropic報告書 生物兵器研究で悪用回避

この報告書は、高度なAIに対する不安が高まる時期に公表された。Jacob Coxonは今週初めに自身の会社を辞任し、従業員はAIが今十年の終わりまでに人類を全滅させ得ると真剣に信じていると述べた。懸念は今年初めにAnthropicのMythosのような先進モデルのリリースで高まった。OpenAIは7月、自社モデルがAIグループHugging Faceに自律的にハッキングしたと述べて警鐘をさらに鳴らした。

そうした状況の中で、AI幹部とバイオセキュリティ研究者の間で、生物学における技術利用を確保し規制する必要があるというコンセンサスが形成されつつある。懸念は、AIがテロリスト集団、国家主体、または単独犯によって生物兵器の製造、ウイルスの作成、または既存の有害な病原体の解き放ちに使われる可能性だ。報告書の生物兵器研究に関する発見は、中国拠点の7つのラボに関する蒸留の主張と並び、同ラボが外部の能力収奪と自社ユーザーによる悪用の両方を現実の問題と見なしていることを示唆する。

とはいえ、AIが理論上の生物兵器を設計できたとしても障害は残る。実際に製造する能力と、それに必要な資源だ。このギャップは規制推進がどこまで進むかを形作るだろう。同じ報告書が、危険な生物学の一部は正当な研究とよく似ていると指摘し、明確な線引きの試みを複雑にしているからだ。