ホワイトハウスがAnthropicに対し、AI モデル Claude Fable 5 の再公開の条件として、すべてのジェイルブレイク（AIの安全機構を回避する手法）を防ぐことを求めていますが、独立した専門家らはそれが技術的に実現不可能な可能性があると指摘しています。

何が起きたか

Trump 政権は Anthropic に対し、ジェイルブレイク懸念から先週オフラインにした Claude Fable 5 を再公開したければ、政府が指摘する脆弱性に対応する措置を講じるよう求めています。Anthropic は月曜日に Commerce Department と National Cyber Director Sean Cairncross との技術会合で、同社の懸念は誇張されており、ジェイルブレイクの影響は最小限だと改めて主張しました。

なぜ重要か

National Security Agency は Fable 5 のガードレール（サイバーセキュリティや化学、生物学関連の機能へのアクセスを制限する安全機構）を無効化する方法が存在すると結論付けており、政権はこれを Anthropic が解決すべき問題と見なしています。しかし独立した専門家らは、AI モデルのガードレールは一時的な対症療法に過ぎず、熟練したユーザーや将来の AI が制約を回避する方法を見つけるだろうと考えており、ホワイトハウスが求める要求が実現可能かどうかは不明瞭です。

注目点

政権は Anthropic に対し、Fable 5 だけでなくすべての最先端 AI モデルについて継続的にテストを実施し、潜在的なジェイルブレイクを特定して政府自身に報告することをより積極的に行うべきだと考えています。