Amazon の警告を受けて、米国政府は Anthropic の新型AI モデル「Fable 5」への外国人アクセスを輸出規制で遮断しました。

何が起きたか

Amazon の研究者が Anthropic の Fable 5 モデルで、本来は制限されるべきサイバー攻撃情報を引き出すバイパス手法を発見しました。この報告を受けた米国政府は、商務省の輸出規制を発動し、Fable 5 と基盤モデルの Mythos 5 の外国人（米国外の人物および米国内の非市民）へのアクセスを禁止しました。Anthropic は禁止範囲の広さから、全ユーザーを対象にこの2つのモデルを無効化するしかありませんでした。

なぜ重要か

これは米国政府が、すでに広く公開されている商用AI モデルに輸出規制を使って対応した初の事例です。このため、欧州などの政治家から「他国が制御するテクノロジー基盤に依存しては、それを失う危機にさらされる」として、各国が独自のAIインフラを構築すべきとの主張が相次いでいます。また批評家からは、政府の権限濫用や今後、企業の透明性とのバランスに悪影響を及ぼす可能性を懸念する声も出ています。

注目点

ホワイトハウス AI 顧問の David Sacks は、政府が Amodei CEO に問題を修正するか、モデルを引き下げるかの選択を求めたものの、拒否されたため、やむを得ず輸出規制を発動したと説明しました。政府関係者は、当該の機能レベルを超えるモデルが今後リリースされた場合、事前に政府の審査が必要になると述べており、AI 政策の監視体制がより厳格になる可能性とみられます。