Anthropic退社のJacob Coxon、安全性を告発

Anthropicは以前からAI安全研究の不確実性を認めてきた。2023年3月の声明では、強力なシステムを確実に安全にすることが未解決だとし、競争が危険な展開を促す可能性や、自社の研究が失敗する可能性にも言及していた。Hubingerの率直な発言はこの立場の延長線上にある。

2026年8月14日公表のRisk Reportは、対象モデルが意図に反して大災害を起こすリスクを低いと判断した。根拠の一部は、モデルが監視を欺くほど強力でないという前提に置かれている。この前提は、より高能力な後継モデルでは再検証が必要になる。能力が監視回避に及べば、その前提に基づく安心は弱まるためだ。

Anthropicは、意味のある安全研究には最先端モデルへのアクセスが必要だと主張して開発を続ける。研究と開発を両立させるこの方針が機能するかは、Coxonが求めた協調的減速の実効性にかかっている。一時禁止に誰が合意し、何を対象とし、どう執行するかは未定であり、顧客と政策担当者は能力増強を正当化する証拠と減速の引き金を明確にするよう迫られるとみられる。