中国のAI検閲は蒸留で除去可能、研究が判明

サンフランシスコに本拠を置くAIラボCTGTは、高リスク用途向けのAIモデルの内部動作の調査を専門としており、DeepSeekのオープンソースモデルの出力と、その出力から学習した小さいモデルを比較する研究を実施した。研究者が政治的に機密性の高い質問（中国のウイグル人収容所に関する質問など）を提示すると、DeepSeekのモデルは回答を拒否するか、中国政府を支持するために問題をかき消すような回答を提供した。対照的に、CTGTがDeepSeek V4 Flashの出力を学習データとして蒸留することで作成したモデルに同じ質問を提示した場合、中国の国家がウイグル人を「抑留施設」に収容しているという証拠を提供した。蒸留プロセスは、より大きな「教師」モデルを使用して、より小さな「生徒」モデルのための学習データを生成することを伴う。CTGTの理論は、蒸留されたモデルが潜在意識的に検閲を継承するというものであったが、研究はそうでないことを示した。他の機密性の高いトピックについても同様のパターンが見られた。CTGTの創業者兼CEOのCyril Gorlaは、多くの企業がこの領域を探索しているが、「人々が不吉だと考える特性が実際に転送されるかどうかについての大量の誤報と不確実性に直面している」と述べた。この知見は、トランプ政権が中国のオープンソースモデルがもたらすリスクをどのように管理するかについて積極的に議論している時期に到着している。当局者は複数の懸念を表明している。DeepSeekのようなモデルが天安門事件などの出来事に関する質問に答えることを拒否する可能性があり、より広くは米国での中国のモデルの広範な採用がアメリカ社会を徐々に北京の世界観へ向けて転換する可能性がある。China Media ProjectはDeepSeekを「我々が皆想像していたよりもはるかに洗練されたプロパガンダツール」と特徴付けた。一部の当局者は、無防備なユーザーから情報を抽出するために使用できる隠れたセキュリティバックドアについての懸念も提起しているが、そのようなバックドアについての確固たる証拠は確立されていない。Gorlaは、彼のチームが米国の当局者と接触しており、この知見に関心を示していると報告している。Gibson Dunnのパートナーであり、Appleの元最高プライバシー責任者であるJane Horvathは、問題を異なる方法で枠組みした：「中国のモデルを蒸留してアメリカのモデルに戻すことができるときに、中国のモデルを禁止することは絶対に意味がない。これらは原料である。ソフトウェアだ。」この研究は、中国のオープンソースモデルが中国の政治検閲の必然的なベクトルであるという懸念を弱め、米国企業がより安価で高速な中国のモデルを採用するか、それらからカスタマイズ版を作成するための経路を潜在的に開く。

この研究は、トランプ政権内での中国のオープンソースAIモデルをどのように規制するかについての活発な議論の中で浮上している。米国当局者は長い間、これらのモデルが政治検閲を組み込んでおり、プロパガンダツールとして機能する可能性があることを懸念してきた。China Media ProjectはDeepSeekを「我々が皆想像していたよりもはるかに洗練されたプロパガンダツール」と呼んだが、CTGTの知見はこの懸念が誇張されている可能性があることを示唆している。同研究所の研究は、より大きな中国のモデルが蒸留を通じてより小さなカスタムモデルを学習させるために使用される場合、検閲の特性が必ずしも転送されないことを示している。この区別が重要なのは、モデルが検閲を「含む」かどうかの問題と、その検閲が別の当事者によってモデルを転用される際に「存続」するかどうかの問題を区別するからである。この研究は、中国のモデルが隠れたセキュリティバックドアを含むという二次的な懸念にも対処しており、この記事ではこの懸念は確固たる証拠によって支持されたことはないと指摘している。米国企業にとって、その含意は実用的である。より安価な中国のモデルから蒸留することは、ゼロから構築するよりも高速でコスト効率的な道である可能性がある。

まだコメントがありません。最初のコメントを投稿しましょう！