Microsoft CopilotやGeminiなどのAIツールでデフォルトモデル選択に頼ると、存在しない国別の違いを生成してしまう

数学者Adam Kucharskiが同一のデータセットに異なる国ラベルを付けてMicrosoft Copilotに入力したところ、ツールは正確な結果ではなく詳細なステレオタイプを出力した。

思考モデル（推論を深掘りするAI）はこのトリックを見破ることができるが、ユーザーがいつそのモデルを選ぶべきかを知っている場合に限定される。

デフォルトのモデル選択のままでは、データ分析時にAIツールが存在しない違いを捏造する可能性がある。