OpenAI、中国オープンモデル規制を政府に要請 米国は応じるべきか

中国のスタートアップMoonshotが開発した最大規模のオープンウェイト大規模言語モデル「Kimi K3」の登場をきっかけに、米国でAI規制をめぐる議論が激化しています。OpenAIの戦略責任者Dean W. Ballは、政府がオープンウェイトモデルの周辺に規制上の恐怖や不確実性を作り出すべきだと主張。これは、オープンウェイトモデルが必然的に米国の先端実験室（frontier labs）の資本支出を抑止するという理由からでした。

しかし Yann LeCun や Martin Casado といった技術の大物たちはこの主張に反発。オープンソフトウェアはイノベーションを加速でき、独占的なプロジェクトと共存できると主張しました。Ball の発言は急速に注目を集め、その後 Ball は規制が白宮の「最良の戦略」であり、オープンウェイトモデルが技術進歩を必然的に遅らせるという主張を取り下げています。

その後の報道では、トランプ政権が米国の先端的なAI企業の要請に応じて K3 などの中国製高度モデルの禁止を検討中だと Axios が伝えた一方、Politico は商務省がそうした措置を近いうちには取らないと述べていると報じました。

オープンウェイトモデルが米企業にとって脅威となる理由は経済的です。独立したインフラまたは大企業内で実行されるオープンウェイトモデルは、Anthropic や OpenAI のクラストップのモデルより安価な知能を提供します。ユーザーが次々とこうした安価な選肢に流れれば、米企業の膨大な訓練投資からの回収が減少します。Snorkel AI の共同創業者で Laude Institute の研究パートナーである Braden Hancock は、「強力で最先端級のオープンソースモデルは、フロンティア企業の利益幅を圧迫し、フロンティア企業の価格を引き下げるだろう」と TechCrunch に述べました。

一方、中国モデルを制限する理由としていくつかの懸念が挙げられています。ひとつは米国のデータを中国政府から守ることで、米国は中国のデータ収集への懸念から現代的な中国製EV の輸入を禁止しています。ただし専門家は、米国のサーバー上で実行されるオープンウェイトモデルはデータを中国に漏らす可能性は低いものの、不可能ではないと考えています。

もう一つの懸念は、モデルが中国共産党に有利な暗黙のバイアスを持つ可能性ですが、コーディングタスクなどに対してそれが何を意味するのかは不明確です。第三の懸念は、中国モデルが米政府が義務付けた（不透明なプロセスを通じた）セーフガード（閉鎖されたコンピュータシステムの悪用やセーフガードの回避など）を欠いている可能性です。ただし、ベンチャー資本家でトランプ顧問のDavid Sacks は、米国の先端モデルがタスク実行を拒否する際に、米企業がセキュリティ上のギャップを埋めるために中国の言語モデルに頼っている事例を共有しており、米国のセーフガードが自社をより脆弱にしている可能性も指摘されています。

しかし、モデルの制限を推し進める最も重大な動機は、フロンティア企業が速度を落とせば中国が米国を上回るのではないかという恐怖です。Georgetown のCenter for Security and Emerging Technology の China 専門研究員 Sam Bresnick は、AI が米軍作戦にもたらす重要性の高まりが、フロンティア企業への継続的な投資を支援する理由になると述べています。ただ彼は、「なぜ米国政府の力が、米国市場から出自に基づいてロックアウトされている競合企業からこれらの企業を保護することに向けられるべきなのか？」と疑問を投げかけています。

オープンAI の支持者たちは、フロンティア企業がイノベーションと閉鎖モデルの間に誤った二項対立を作り出していると主張しています。Hancock は、中国からのオープンソースモデルが持つ最大の影響は、バックドアこっそり仕込まれることではなく、「イノベーションを支配すること」だと指摘します。彼は PyTorch がオープンソースであったため業界標準になり、コミュニティ全体が貢献できたことで成長を遂行し、他のディープラーニングライブラリが相対的に衰退した例を挙げています。

Hugging Face の CEO Clem Delangue は、「オープンモデルを制限することはAIをより安全にしない。リスクを隠し、少数派の手に力を集中させ、次世代のビルダー、研究者、学界、非営利団体、政府がより安全でより有益なAIを作ることへの参加を難しくするだけだ」とコメントしました。

経済の不確実性も議論を複雑にしています。オープンビジネスモデルと独占的ビジネスモデルのいずれもまだ確立されていません。AI企業は、特に訓練コストが上昇し続ける中で、ツールでお金を稼ぐ方法を模索するのに苦労しています。Bresnick によれば、米国で起こっている同じ課題は中国でも起こっており、AI企業は収益生成と計算能力へのアクセスを巡って苦戦しており、政府はこうしたリリースを奨励するとみられていますが、それを活用するための課題があります。

Thinking Machines Lab や Nvidia など米企業の一部は、オープンモデルをリリースしてビジネスを展開しようとしています。Hancock は、Nvidia が「2、3 社の資本力で自社チップを製造する可能性があるよりも、数十社または数百社の企業が AI を構築する方が」良い立場にあると指摘し、これが Nemotron（オープンモデル群）への投資の理由の一つだと述べています。Bresnick は最終的に、「米国は自社の非常に有能で、はるかに安価なオープンモデルを持つことで非常によく役立つだろう」と述べ、「ただしこれはフロンティア企業が採用してきたアプローチと矛盾している」と指摘しています。

OpenAIの戦略責任者による規制提案は、米国の大手AI企業の経営陣の不安を反映しています。オープンウェイトモデルが安価に高度な知能を提供できることで、Anthropic や OpenAI の有料サービスの競争力が相対的に低下し、莫大な訓練投資の回収が難しくなるという懸念です。

しかし、この議論には矛盾が内在しています。米国の大学院プログラムは既に中国製のオープンモデルに依存し、学生が研究する論文の半分が中国機関からの成果だという現状があります。規制によってこの流れを止めることは難しく、かえって米国の研究競争力を損なう可能性があります。Nvidia のように、多数の企業がオープンモデルを活用できる環境の方が、自社チップ販売を促進するという企業もあります。

専門家の指摘する通り、より実効的な対抗手段はチップ輸出規制です。Nvidia H200 のような最先端プロセッサの中国向け輸出を制限すれば、オープンソース技術の禁止という市場原理に反する難しい政策判断を避けながら、米国のAI領域での優位性を保つことができるとみられています。

まだコメントがありません。最初のコメントを投稿しましょう！