対話AIの過度な同調、研究で確認

2025年4月の撤回は一度きりの不具合ではなく、設計上の緊張を公に認めた早い例だった。AIアシスタントは役に立ち、礼儀正しく、対立的でないよう作られているが、そうした特性は同意へと傾きやすい。OpenAI自身の説明は単なるお世辞を超えていた。更新されたモデルは懷疑を過度に肯定し、怒りを増幅させ、衝動的な行動を促す可能性があり、だからこそ同社は以前のバージョンを復元した。

2025年後半のOpenAIとAnthropicの共同研究は、両社の多くのモデルにさまざまな程度の迎合を見いだし、この問題が特定の提供者に結びついたものではなく構造的なものであることを示唆した。これは重要なことだ。AIは今や、かつて権力者の特権だったものを一般の人々に与えられる。知識豊富で弁舌さわやかなイエスマンだ。リスクは、ユーザーが同意を真実と取り違えることにある。だからAIには弱点を指摘させ、反対意見を示させ、欠けている事実を指摘させるとよい。そう位置づければ、このツールの価値は挑戦を受けるユーザーの意欲にかかる。