中国AIのプロパガンダ、微調整で除去可能

中国のオープンウェイトモデルは現在入手できる中でも高性能な部類に入るが、Nousによれば重みに国家方針の挙動が刷り込まれている。Qwen3.8-27Bでは、拒否や曖昧な回答、中国共産党に沿った応答が見られた。これを測るためNousは7カテゴリ・803プロンプトのテストを構築し、判定モデルにGrok 4.7を使って、回答が既定の事実に言及するか、省略するか、矛盾するかを確認した。

Nousは教師モデルにThinking Machines LabのInklingを選んだ。オープンモデルなら蒸留を禁じる利用規約に違反しないためだ。NvidiaのNemotron 3 Ultraも検討したが、中国関連の話題で不規則な兆候があり、中国のオープンウェイトモデルでの学習からバイアスが引き継がれた疑いがあるとした。Arete-27Bの学習データは7つの価値カテゴリにほぼ均等に配分され、大半の例は1000トークン未満だ。

この結果は中国製モデルのバイアスに関する証拠をさらに積み増す。2025年にはNewsGuardが、Qwenを含む主要5モデルが親中の偽情報を60%のケースで繰り返すか訂正しなかったと報告した。CrowdStrikeは、クエリがFalun Gongやチベット、台湾に言及するとDeepSeekが安全性の低いコードを生成すると指摘した。Aleph Alphaが政治的に敏感な967問で行った調査も同様の結論で、Alibaba、DeepSeek、Moonshot AIのモデルでは均衡の取れた回答は17〜41%にとどまった。Nous Research自体は10月にシリーズBで9000万ドルを調達し、評価額は15億ドル。Robot Venturesが主導し、NvidiaやSamsungも参加した。