中国のAI検閲は蒸留で除去可能、研究が判明

何が起きたか

サンフランシスコのAIラボCTGTの研究者らが、中国のオープンソースモデルDeepSeek V4 Flashの出力を学習データとして使用し、蒸留と呼ばれるプロセスを通じてより小さなAIモデルを構築した。ウイグル人収容所など機密性の高いトピックについて質問されると、元のDeepSeekモデルは回答を拒否するか中国に有利な回答をしたが、蒸留されたモデルは証拠に基づいた回答を提供した。

なぜ重要か

この知見は、中国のオープンソースAIモデルが中国の政治検閲をアメリカのユーザーに到達させる経路であるという米国政府の最大の懸念を弱めるものである。この研究は、中国のソースから構築されたモデルに検閲が自動的に転送されるわけではないことを示唆しており、米国企業がゼロから構築する代わりに、より安価で高速な中国のオープンソースモデルを使用するか、それらからカスタマイズ版を作成する正当性を強める可能性がある。

注目点

トランプ政権は中国のオープンソースモデルをどう扱うかについて積極的に議論しており、米国政府当局者はCTGTの知見に関心を示している。一部の当局者は、中国のモデルの大規模使用がアメリカ社会を北京の世界観へ向けて形成することを懸念しているが、中国のモデルに隠れたセキュリティバックドアが存在することへの懸念は、確固たる証拠で確立されたことはない。