オープンウェイトAIモデル、最先端に接近も安全リスク増加

英国のAI Safety Instituteが、公開されたコードを持つオープンウェイトAIモデルが最先端非公開商用モデルとのパフォーマンスギャップを縮小していることを示す分析を発表した。同研究所は、最も高性能なオープンモデルが現在、サイバー能力で測定した場合、最高の非公開モデルより4～7ヶ月遅れていることを発見した。オープンウェイトモデルは具体的な利点を提供する：サードパーティプロバイダーへの依存なしに特定の組織またはユーザーニーズのために適応および微調整できること、そしてチームおよび機関全体でのより簡単なコラボレーションを促進することである。しかし、このオープン性には重大な欠点が伴う。モデルが公開されているため、ユーザーはクリエーターが組み込んだ安全ガードレールと制限を削除または無効にでき、サイバー攻撃と生物学的脅威研究における特に高度なAI機能が、悪意のある行為者が利用可能にされる。このリスクは既に顕在化している：ニューヨーク・タイムズはナイジェリアのボコ・ハラム勢力がAIツール（その場合は主に非公開モデル）を活用して軍事攻撃を計画し戦術的優位を獲得していることを報じた。Anthropic最高経営責任者のダリオ・アモデイは最近、オープンモデルが「より高いリスクを持つ可能性がある」と書面で認めたが、安全チャレンジをオープン対非公開の区別よりも広いものとしてフレーミングし、ライセンスモデルに関わらずすべての強力なAIモデルは展開前に安全リスクについて評価およびテストされるべきだと主張している。