AI殺害リスク10%超、安全策なし

Anthropic内部の安全コミュニティは、AI開発のペースをめぐって分裂している。ジェイコブ・コクソン氏の辞職は、以前OpenAIで働いていた経歴もあり、両社から安全上の懸念で著名人が相次いで去る傾向を示す。彼の「自己改良型スーパーインテリジェンスへまっすぐ競争している」という非難は、両社がIPOを準備しているとの報道と同時期に起きており、すでに攻撃的なタイムラインに金銭的压力が加わる可能性がある。

フビンガー氏の公的な同意と、同社に安全計画がないという率直な認容は、内部の矛盾を示す。つまり、指導部の声は存在リスクを認めつつ、緩和策の具体的戦略を認めていない。このやりとりは、悪意あるエージェントの事件やフロンティアモデルの監視可能性に関する警告を背景としており、これらは孤立した恐怖ではなく、業界内でも認識された構造的問題であることを示唆する。

重要点は、Anthropicと競合他社が、より強力なシステムを展開する前に、安全レトリックを実行可能な計画に変換できるかどうかだ。コクソン氏の「競争に閉じ込められている」という表現は、競争圧力が慎重さを上回る可能性を示唆する。これらのAIシステムを統合する企業にとって、この議論は、技術の未来が能力だけでなくガバナンスと信頼の問題であり、最悪のシナリオが実現した場合、致命的な結果をもたらす可能性があることを示している。