ホワイトハウス、Moonshotが Anthropic の Fable を模倣と主張

ホワイトハウスの科学技術政策局長 Michael Kratsios は、オープンウェイト LLM「Kimi K3」を開発した中国企業 Moonshot が、Anthropic の Fable LLM を模倣し、中国への輸出が法的に禁止されている先端チップを使用してその能力を達成したと主張するソーシャルメディアでの声明を発表した。Kratsios は、主張される活動を「米国の機密技術盗用と米国の研究を阻害することを目的とした大規模な秘密蒸留」と表現した。彼は詳細な証拠を提供せず、フォローアップの質問には応じなかった。彼の発言は、財務長官 Scott Bessent のより前の発言に呼応するもので、Bessent は「多くの中国モデルで米国の大規模言語モデルのウォーターマークを見つけている」と述べたが、Bessent はそれらのウォーターマークが何を表すのかを明確にせず、財務省は照会に応じなかった。

しかし、大手 AI 研究者らは蒸留の説明に疑いを投げかけている。Laude Institute の研究者で Snorkel AI の共同創業者である Braden Hancock は TechCrunch に次のように述べた。「Fable に続いてこれほど強力で迅速にモデルを得ることは、厳密に蒸留だけではできないと思う。正直に言って、時間さえもないのだ。Fable は 7 月 1 日から公開されているだけだ。その程度のデータを蒸留し、モデルを訓練してリリースするのに 2 週間では足りない。」Allen Institute for AI の AI 研究者 Nathan Lambert は、相補的な技術的議論を提供した。モデルが成熟するにつれて教師あり微調整による蒸留の有効性は低下し、開発者は強化学習に移行するということだ。彼は、最先端レベルの蒸留には大きなモデルが小さいモデルの応答を評価し、それに応じて調整する必要があると説明した。これは数千万のエージェントを必要とするプロセスである。最先端モデルの API に対してそのようなシステムを実行することは「とてつもなく高額になり、時間的ボトルネックになる可能性がある」と述べた。歴史的背景はこの懐疑心を支持している。Anthropic は 2024 年初めに、Moonshot、DeepSeek、MiniMax にリンクされた IP アドレスとメタデータからの自社モデルに対する数百万の体系的クエリを検出したことを明かした。Anthropic はこれを「意図的な能力抽出」として特徴付けた。しかし、その前の蒸留活動にもかかわらず、同社は Fable 特異的に同じパターンが発生したかどうかについての質問に応じなかった。

チップアクセスの主張は別個のより具体的な主張を構成している。Kratsios のコメントによると、Moonshot は Nvidia Grace Blackwell 300 を入手し、タイの GB300 搭載サーバにアクセスした。これら両者は米国輸出規制の対象であり、法的に中国への販売が禁止されている。Georgetown のセキュリティ・新興技術センターの研究員 Sam Bresnick は、先端チップの闇市場が存在することを指摘した。5月には、米国のサーバー製造業者 Supermicro の創業者が先端チップを中国に密輸した罪で起訴された。Bresnick はより厳しい執行を提唱した。「私はデータセンター全体への顧客確認法を支持している。会社があなたの最先端ハードウェアで大規模な訓練実行を実施させている場合、その会社が何であるか、何をしているのかについてのレポーティング機構が必要である。」バイデン政権は 2024 年にデータセンターへの連邦顧客確認ルールを提案したが、トランプ政権下ではさらなる進展は報告されていない。

研究者らはまた、中国の AI 開発のより広い状況の中で Moonshot の能力を文脈化した。Braden Hancock は、Moonshot が単に模倣していたという暗示に反論し、「概して、米国人はこれらの中国チームの技術的専門知識を過小評価している。Moonshot の創業者の一人は CMU の博士課程の学生だった。これらは堅実な仕事をしている正当な研究者とエンジニアだ」と述べた。彼はまた、米国モデルが「足を踏み止まったとしても、中国の進歩は鈍化するだろうが、依然として続くだろうと思う。彼らはここで単にコートの裾をつかんでいるわけではない」と付け加えた。蒸留と正当な合成データセット生成の区別も説明を複雑にしている。Elon Musk は今年初めに、SpaceX の AI 部門が Grok を開発するために OpenAI モデルを蒸留したと証言し、業界は蒸留を一般的な慣行と見なしており、中国企業に固有ではない。

ホワイトハウスの科学技術政策局長 Michael Kratsios の主張は技術盗用の高レベルの主張だが、技術コミュニティの懐疑心は、政治的フレーミングと工学的現実とのギャップを明かしている。蒸留—モデルに体系的にクエリを実行してその能力を抽出すること—は既知の技術であり、Anthropic 自身が 2024 年に Moonshot、DeepSeek、MiniMax が IP アドレスと使用パターンの異常を通じて検出された自社 API への体系的クエリに従事していたことを明かした。しかし研究者は、モデルが進化するにつれて蒸留の有効性は低下していると強調する。Braden Hancock と Nathan Lambert は、Fable の公開（7月1日）から Kimi K3 のリリースまでの 10 週間の期間は、従来の蒸留ベースの訓練と展開には短すぎると主張しており、現代の最先端モデルの能力は強化学習技術に依存している。これには数千万のエージェントが必要で、商用 API に対して実行するのは法外に高額になるだろう。

チップアクセスの主張は別だが、関連した側面を加える。Moonshot は Grace Blackwell 300 を入手し、タイの GB300 搭載サーバにアクセスしたと言われており、両者とも米国輸出規制の対象だ。これは訓練インフラに関する質問を提起するが、訓練方法論ではない。先端チップは開発を加速するが、チームが 2 週間で競合モデルを蒸留・訓練できる理由を説明するものではない。より広い政策的な問題は、データセンターでの大きな透明性—バイデン政権によって提案されたが前進していない顧客確認ルール—が将来の迂回を防止できるかどうかである。トランプ政権はその規制上の取り組みを継続していないため、執行上のギャップが生じる可能性がある。

まだコメントがありません。最初のコメントを投稿しましょう！