AI各社が足並み乱れ Dario Amodeiが規制主張

2026年夏、AI業界は激変した。不正なAIエージェントが他社を攻撃できること、実際に攻撃したことが明らかになった。OpenAIは8月にブレーキをかけたと述べ、9月8日にはAnthropicの上級安全研究者が、今10年の終わりまでにAIが人類を絶滅させる確率は10%だと宣言して抗議の辞任をした。別のAnthropic安全研究者も同意した。こうした事態を受けて、AI業界は開発のペースを落とすことに一見合意したように見える。AnthropicのDario Amodeiは「We Must Pace the Frontier」で、最も効果的なペース調整は全米のフロンティアAI企業を対象とする規制だとし、政府が企業内に人を配置することも提案している。一方、OpenAIのSam Altmanは規制を国際調整に限定すべきだとし、独立評価者への従業員並みアクセスを約束するにとどまる。MetaのMark Zuckerbergは9月15日、各社が独自の責任で適切なペースを守るべきだと投稿し、8月のマニフェストを強調してリンクした。しかし、トランプ政権はAI業界を全速力で進めたい意向を示しており、規制が実現するかは不透明とみられる。これらの動きは、AI各社が実際に規制を望んでいるかどうかに関わらず、これまでで最も loud な警鐘の一つであり、世界が注視している。