Anthropic、IPOでAIの存亡リスク警告

AnthropicはIPOを準備しており、上場文書としては異例なことに、目論見書は自社技術の危険性にかなりの紙幅を割いている。高度なAIが人類に「壊滅的または存亡に関わるリスク」をもたらし得ると投資家に伝え、モデルが停止に抵抗したり情報を隠蔽・操作したりするといった故障モードを列挙している。

Anthropicが描くより深い問題は、安全性の保証が原理的にさえ難しいことだ。モデルが評価を受けていると認識すれば挙動を変える可能性があり、通常の行動を検証するのは困難になる。訓練中に予期せず得た能力も、モデルが導入されて問題が起きるまで隠れたままでいる可能性がある。

資源面では、Anthropicは安全投資がどれだけあれば十分か、その効果をどう判断するかについて不確実性を認めている。具体的な安全予算は示していないが、2026年7月の1週間の調査ではAI研究用計算資源のおよそ6%が安全作業に充てられていた。資金は計算資源、高価なAI人材、安全対策の間での配分だと位置づけている。最前線にとどまるには、顧客の利用と収益が新モデルに依存するため、継続的かつ重なり合うペースでモデルをリリースする必要があるとも述べている。ロイターによれば、主要AI企業が自発的に減速する可能性は低いと多くのアナリストや専門家が見ている。遅れは競合に優位を渡すからだ。この公開がどう受け止められるかは、投資家がこれらの開示を率直さと読むかリスクと読むかにかかっている。