Anthropic CEOが「根本的に信頼危機」と指摘

要点

• Anthropic CEO ダリオ・アモデイは、AI に対する国民の反発を幹部による AI リスク警告の直接的な結果ではなく、数十年にわたる制度への信頼侵食の症状として再構成した。

• 自らが AI について過度に悲観的だという批判に対し、アモデイはメッセージがリスクと利益のバランスを等しく取っていると述べ、真の問題は AI 企業が世界へのメリット約束をまだ果たしていないことだと述べた。

• また、思慮深い規制はフロンティア AI 企業の権力を制約しながら小規模競争相手とオープンウェイツモデルを有効にすることができると主張した。

3つのポイント

よくある質問

アモデイは自らの警告が反発を招いたことに同意したか？

いいえ。アモデイはメッセージが「リスクと利益のバランスがほぼ等しい」と述べ、AI への国民の否定的見方は「根本的に信頼危機」であり、人々が企業、政府、テクノロジー業界を信頼していないことに根ざしており、AI 指導者のリスク警告が主因ではないと述べた。

アモデイが言う AI 企業が受けるべき主要な批判は何か？

彼は Anthropic を含む AI 企業に対する最も正当な批判は「世界を利益する大きな約束をまだ果たしていない」ことだと述べた。例として、AI がガンを治すと約束することは「鼓舞的というよりむしろ陳腐である」と述べ、人々の見方を変えるのは「実際にガンを治す」ことだと述べた。

アモデイは AI 規制をどのように擁護するか？

アモデイは規制が必然的に権力を集中させるという考えを退け、Anthropic は「フロンティア AI 企業を（減速させるように）不利にしながら*小規模競較手に有利に*働く」政策提案を設計していると述べた。また「適切な『ルール』」は AI のリスクに対処し、フロンティア企業の権力を制約し、オープンウェイツモデルに余地を残すことができると述べた。