Anthropic CEOが「根本的に信頼危機」と指摘

何が起きたか

Anthropic CEO のダリオ・アモデイが、投資家ガビン・ベイカーのAI危機警告がデータセンター反発を招いたという主張に反論した。アモデイは自らのメッセージは「リスクと利益のバランスがほぼ等しい」と述べ、AI指導者のリスク警告が国民のAI否定感の主因であるという考えに異議を唱えた。

なぜ重要か

アモデイは根本的な問題を「信頼危機」と指摘し、一般人が企業、政府、テクノロジー業界全体を信頼していないと述べた。「国民はAIに対する否定的見方を持っている」ことは「大きな問題」だと認めたが、これをAI幹部の最近のメッセージではなく数十年積み重なった懐疑心のせいだと位置づけた。また、Anthropicを含むAI企業が世界へのメリット約束をまだ果たしていないことを批判し、「これは完全に私たちの責任」だと述べた。

注目点

アモデイはAnthropicの規制アプローチを擁護し、「適切な『ルール』」はAIのサイバー、バイオ、アライメントのリスクに対処し、フロンティアAI企業の権力を制約し、オープンウェイツモデルに余地を残すことができると主張した。彼は規制が必然的に権力集中につながるという枠組みを退け、Anthropicは「フロンティアAI企業を（減速させるように）不利にしながら*小規模競争相手に有利に*働く」提案を設計していると述べた。