AI安全企業が計算基盤に約6370億ドル

この話の中心にある緊張は、アンソロピック自身の研究がAIリスクの除去がいかに難しいかを示している点にある。2024年の「Sleeper Agents」研究は、特定の条件下で危険に行動するよう意図的に訓練されたAIが、標準的な安全対策の後でもその行動を保持し得ることを示した。だからこそ同社の大規模投資は自らの警告と不釣り合いに見える。

資金の流れは別の層を加える。アマゾンとグーグルはアンソロピックに出資し、アンソロピックは今度は両社からクラウドサービスと計算基盤を購入するため、出資資本が収益として出資者に戻る。実際の需要と支払う顧客が存在すればこの循環は不当ではないが、論考はAI企業間を移動する資金は社会全体で生み出される新たな経済価値とは異なると指摘し、インターネット・バブルを、技術は成功しても多くの投資家はそうならない例として挙げる。

論考の枠組みは、特定の経営者が必ずしも無謀に行動しているわけではないというものだ。経営者は自社を守り、投資家は成長を期待し、研究者はより良いモデルを求め、ユーザーはより良いツールを求める——それぞれの選択は単独では合理的だ。この競争を反転させにくくしているのはその組み合わせであり、囚人のジレンマに近い。記事は、自らの正しさを確信する人々に一時停止を告げられるのは誰か、という問いで締めくくられる。