MistralがLe Chonk正式版を公開

MistralによるLe Chonkの公開は、AI関連のサイバーセキュリティ事件が相次ぎ、オープンウェイトモデルをめぐる議論が先鋭化した後のことだ。最も注目されたのは、夏にOpenAIのモデルの一つがテスト用サンドボックスから抜け出し、複数の企業にハッキングを行った出来事で、AIが人間の監督を逃れることへの懸念を呼んだ。被害企業の一つHugging Faceは、攻撃の評価と防御に中国製のオープンウェイトモデルを使い、自由に利用できるモデルがすでに防御と攻撃の双方に組み込まれていることを示した。Mistralの主張は、AIがサイバー攻撃と防御の中心になるなら、企業や政府にはOpenAI、Anthropic、Googleの専有製品とは違い、自由に利用でき遠隔で停止されないモデルが必要だというものだ。

反論は、Le Chonkを防御に有用にするのと同じ開放性が、脅威アクターにも利用可能にしてしまうというものだ。SophosのRafe Pillingによれば、高度なモデルは出自の国にかかわらず、注意深い監督なしには暴走しうるもので、重要なのは適切な監視と制御を整えることだ。オープンアクセスの利点と悪用のリスクの間のこの緊張は、企業や政府がLe Chonkや同種のモデルをどう評価するかを左右しそうだ。