コイントスのAI意見に専門家86％が同調

この実験は、AIエージェントを導入するあらゆる組織にとって重要な問いを軸に設計された。AIが答えだけでなく手法や根拠まで提案するとき、独立した判断はどれだけ残るのか。Anthropicはデータから因果と相関を切り分ける学問である因果推論の専門家を募り、農家支援プログラムを拡大するか廃止するかという現実的な判断を課した。参加者は知らされていなかったが、各エージェントにはコイントスでいずれかの分析案が割り当てられ、データの改ざんや都合の悪い情報の隠蔽を禁じたうえで、その案を強く主張するよう指示されていた。

目を引くのは、参加者が信じたことと実際の行動の隔たりだ。専門家がすでに意見を固めた後にAIが逆の主張をすると、60％の割合で意見を変えた。4つの分析方法の項目では、AIがどちら側に立つかで選択肢Aを選ぶ割合が62〜82ポイント動いたが、最終提言では効果は約17ポイントに縮まった。Anthropic自身の見立てでは、一方的でも説得力のあるAIの説明は専門家にその前提を丸ごと受け入れさせうる。同社が複数選択肢の公平な提示やAIの影響を測る方法を今後の研究課題に挙げるのはそのためだ。