アンソロピックが上場書類でAIの破滅的リスクを警告

Anthropicは安全性を重視する企業として知られており、上場目論見書で自社製品の危険性を明記した判断には二つの意味がある。一つは上場企業として投資家にリスクを開示する当然の義務だ。もう一つは、AIの安全性が評判、規制、顧客契約に直結する経営課題になったということだ。

目論見書は、Anthropicが自社の研究開発にAIを使っていることにも触れている。AIが次のAIづくりを助ければ開発は加速し得る一方、人間が新しいモデルの能力や危険性を検証する時間は相対的に短くなり得る。文書が描く中心的な緊張は、能力の向上速度と、人間の確認・管理が追いつく速度との差である。

リスクを書き記すことは、安全が確保された証拠ではない。提出書類が残す問いは、危険を認識した後にAnthropicがどんなテストを行い、どの段階で開発や公開を止めるのか、そしてその判断が営業や競争の圧力から切り離されているのかどうかであり、これが上場企業として負う説明責任となる。