Anthropic が米政府の指示を受けて Claude Fable 5 と Mythos 5 の提供を中止。政府が「ジェイルブレイク」の可能性を指摘しました。

何が起きたか

Anthropic は金曜午後 5 時 21 分に米政府から国家安全保障上の懸念を理由とした指示を受け、火曜に公開したばかりの Claude Fable 5 と Mythos 5 を停止しました。政府は Fable 5 を回避する方法が見つかったと述べており、Anthropic は安全保障上の理由から全顧客へのアクセスを削除しました。

注目点

Anthropic は政府が示した「ジェイルブレイク」について、特定のコードベースを読ませて脆弱性を修正させるよう促す狭い方法だと主張しており、他のオープンに利用できるモデルも同様の脆弱性を発見できるとしています。同社は「このプロセスは透明性のある構造化された公正な政府のプロセスの原則に従っていない」と反発しています。