Anthropic が安全性を理由に公開したモデル Fable が、米政府から緊急停止命令を受けました。セキュリティ懸念と企業の経済戦略の衝突が顕在化しています。

何が起きたか

Anthropic は公開していたモデル Fable 5 と Mythos 5 について、米政府から国家安全保障上の理由で全ユーザーへのアクセス停止を命じられました。政府は、これらのモデルを迂回（「ジェイルブレイク」と呼ばれる）する方法が見つかったことを懸念しています。

なぜ重要か

Anthropic は当初 Mythos を「公開するには危険すぎる」と称しながら、わずか2ヶ月後に安全装置を施した Fable として公開していました。この矛盾は、企業が生き残るために最新モデルを市場に出す必要がある一方で、政府がセキュリティリスクを理由に規制する、避けられない対立を浮き彫りにしています。

注目点

Anthropic の経営陣は現在ワシントンD.C.で当局と協議を行っており、政府当局は同社のセキュリティ上の懸念への対応を「無視」していると見ている可能性があります。モデルのセキュリティと商業的イノベーションのバランスが、今後の規制枠組みの焦点になるとみられます。