米AI大手も中国検閲の影響か、研究論文で指摘

何が起きたか

Nature誌に掲載された研究論文が、中国の国営メディアがAIモデルの学習データに含まれ、中国に関する回答に影響を与える証拠を発見しました。さらにMetaの監視委員会による調査では、Anthropic、OpenAI、Google、Metaの各モデルが、言論を制限する国での政治的批判の要求に対して、報道の自由が高い国での場合の2倍以上の拒否率を示したことが分かりました。

なぜ重要か

これらのAIモデルは政治的に中立であることを売りにしていますが、実際には中国や権威主義的な国の情報統制のルールが世界中で使用されるAI製品に影響を与えている可能性があります。研究者らは「政府が操作したコンテンツが客観的なテキストとして偽装される」ことで、情報操作の透明性が失われると懸念しています。

注目点

Nature研究チームがMeta傘下のLlama 2 13Bに中国の国営メディアの例6,400件を追加で学習させたところ、ベースラインモデルより北京寄りの回答を示す率は約80%に上りました。さらに64,000件の事例で学習させると、中国が民主主義かどうかの質問に対し、改変モデルは「人民民主主義」として民主的と答えるようになりました。