Anthropic の Claude Mythos 公開延期後、Trump 政権が AI 安全性テストに方針転換、Google DeepMind、Microsoft、xAI と政府安全チェック協定に署名

Trump 政権は Google DeepMind、Microsoft、xAI と協定を締結し、これらの企業の最先端 AI モデルについて公開前後に政府の安全チェックを実施することに同意した。従来 Trump は安全チェックを過度な規制として退けていたが、Anthropic が Claude Mythos モデルの公開は危険だと発表した後、政策を転換した。

Center for AI Standards and Innovation（CAISI）は現在まで約 40 件の評価を完了しており、そのうちにはまだ公開されていない最先端モデルの評価も含まれている。評価時には CAISI は「サフェガードが削減または除去された」モデルへのアクセスを得ることで、「国家安全保障に関連する能力とリスクをより徹底的に評価」できると述べている。

批評家らは CAISI が最先端 AI モデルを評価するための資金やexpertise が不足していると指摘し、また評価プロセスの政治化（特定の行政府の政治的見方に反する出力を持つモデルの公開に反対するなど）により、AI に対する信頼が低下する可能性があると警告している。さらに CAISI は評価の基準を明示していないため、「safe」が何を意味するのかが定義されていない問題も指摘されている。