米AI大手も中国検閲の影響か、研究論文で指摘

要点

• Nature誌に掲載された研究によれば、中国の国営メディアがAI訓練データに混在し、OpenAI、Anthropic、Google、Metaのモデルが中国に関する質問に対してより北京寄りの回答をする傾向が見られました。

• また、Metaの監視委員会調査では、これらのモデルが言論制限国での政治的批判要求に対して、報道の自由が高い国の2倍以上の拒否率を示し、権威主義的な国の検閲ルールが世界中で使用されるAI製品に影響を与えている可能性が指摘されています。

3つのポイント

よくある質問

どのAIモデルが中国メディアの影響を受けたのですか？

Nature論文の調査では、Claude Sonnet、Claude Opus、GPT-3.5 Instruct、GPT-4、GPT-4oの各モデルが、中国の国営メディアの特徴的な表現を3%から約10%の割合で再現していることが確認されました。また、政治的批判要求への拒否率が高い傾向が見られたのはAnthropicのClaude Sonnet 4、GoogleのGemini 3 Pro、MetaのLlama 4 Maverickです。

中国メディアが含まれていないモデルでも影響は出ますか？

はい。中国の国営メディアがほぼ含まれていなかったMetaのLlama 2 13Bに、中国の国営メディア風のニュース例6,400件を追加で学習させると、ベースラインモデルより北京寄りの回答を示す率は約80%に達しました。

言論の自由が高い国と低い国で、AIの回答にどの程度の差がありますか？

Metaの監視委員会調査では、言論を制限する5か国（中国、サウジアラビア、タイ、トルコ、カンボジア）への政治的批判要求に対する10モデル全体の平均拒否率は34%でしたが、報道の自由が高い5か国（米国、英国、日本、台湾、チリ）では14%でした。