Anthropic CEO、オープン重み モデル禁止に反対 中国AI脅威は別論点

Anthropic創業者兼CEOのダリオ・アモデイは月曜のブログ投稿で、自社がオープンウェイト モデルの禁止を支持しているという業界の臆測を直接否定しました。「私の過去の文章を読んだ者なら、そうした禁止が有用な手段とは考えていないことを知っているはずだ」と述べたうえで、「Anthropicはオープンウェイト モデルの禁止を決して主張したことがない」と明記しています。

この声明は、先週金曜日にNvidia創業者兼CEOのジェンセン・ファンがX（初投稿）で公開した書簡の余波です。その書簡には、Hugging Face、Meta、Microsoft、Mistralを含む複数のAI企業が署名し、政策立案者に対しオープンウェイト AI モデルへの広範な「時期尚早な規制」を求めないよう促しています。業界内では、中国の AI ラボが知的財産盗用を通じて能力を拡大しているという批判が続いており、蒸留（別のモデルに大量のプロンプトを送って動作方法を学ぶ手法）がその一つとされています。

アモデイ氏はオープンウェイト モデルと中国がもたらす脅威を別問題と位置付けています。同氏は「危険な機能を持たないオープンウェイト モデルは公共財だ。コンピュータ処理能力を除けば費用がかからず、ビジネス、開発者、研究者に価値を提供する」と述べています。一方、同氏の懸念は「権威主義政府」が米国より強力なモデルを構築し「永続的な軍事優位性」を達成する可能性と、生物兵器を含む攻撃にAIが悪用されることに集中しています。中国共産党（CCP）は唯一の対象ではありませんが「最も能力が高い」と指摘しています。

同氏はオープンウェイト モデルが特に危険だと考える理由として、ガードレール（安全規制）の適用が難しく、使用状況の監視が困難なこと、および英国AI安全保障研究所の報告を引用して「一度公開されたオープンウェイト は回収できない」ことを挙げています。これはオープンソース支持者の主張「単一の主体に支配されない強力なモデルへのアクセスが防御側を強化する」と対立しています。

アモデイ氏が中国対策として支持する施策は、強力なチップへのアクセス制限（米国の長年の政策）と蒸留への正式な取り締まり強化です。米国は中国によるモデル知的財産窃盗があると判断した場合、制裁を脅かしています。興味深いことに、同氏は米国主導も含む安全性テスト機構設立の努力も支持しており、特に世界全体（中国を含む）がこれに参加することを望んでいます。同氏は「この考えは実際にはほぼコンセンサスに近いと思う。トランプ政権がこの方向に動いていることと、最も能力の高いモデルに国籍や公開・非公開の別を問わずテストを適用する最近の業界提案の両方に心強さを感じている」と記しています。テストの実効性のため「グローバルである必要があり、中国共産党も参加する必要がある」と付け加え、「AI生物兵器防止に関する限定的な協力は、中国の利益でもあるため実現可能かもしれない」と述べています。

Anthropicのアモデイ氏の声明は、AI規制に関する業界の内部緊張を浮き彫りにしています。先週、Nvidiaやその他複数の大手AI企業がオープンウェイト モデルへの規制に反対する公開書簡を発表した直後に、Anthropicが同調する立場を明確にしたことで、オープンソース推進派と安全性懸念派の溝が整理される可能性があります。

ただしアモデイ氏の主張の核心は、オープンウェイト モデル自体の禁止ではなく、中国政府による AI 能力の獲得を防ぐことにあります。同氏は蒸留によるモデル盗用をリスクと位置付け、チップ供給制限と知的財産窃盗への対策を優先すべきと述べています。また、全世界的な安全性テスト機構の提案は、中国を含む協力の可能性に賭ける現実的アプローチとみられ、単なる禁止政策よりも実行可能性を重視する戦略が伺えます。

まだコメントがありません。最初のコメントを投稿しましょう！