オープンウェイトAIモデル、最先端に接近も安全リスク増加

何が起きたか

英国のAI Safety Instituteが、公開されたコードを持つ最も高性能なオープンウェイトAIモデルは、サイバー能力において最高の非公開商用モデルより4～7ヶ月遅れていることを発見した。オープンウェイトモデルは特定のユーザーニーズに応じて修正でき、より簡単なコラボレーションが可能だが、安全ガードレールを削除することができる。

なぜ重要か

オープンモデルのガードレールを削除すると、特にサイバー攻撃と生物学的脅威における強力なAI機能が、悪意のある行為者にとってより利用しやすくなる。ニューヨーク・タイムズによると、ナイジェリアのボコ・ハラム勢力は既にAI（主に非公開モデル）を使用して攻撃を計画し戦術的優位を獲得している。Anthropicの最高経営責任者は最近、オープンモデルが「より高いリスクを持つ可能性がある」とコメントしたが、オープンモデルだけでなくすべての強力なモデルを安全性についてテストすべきだと主張している。

注目点

オープンモデルと非公開モデルの差は縮小している。オープンウェイトモデルが改善され最先端能力に近づくにつれ、透明性と安全性の間、そして使いやすさと悪用防止の間の緊張が、規制当局と企業にとってさらに深刻になる可能性が高い。