
何が起きたか
3,132人参加の5実験で、AIの助言を見られるだけで、自動表示の場合も含め、判断を保留する意向が44%から3%に低下した。使用モデルStep 3.5 Flashはほぼ常に誤答だった。
なぜ重要か
助言はほぼ誤りだったため、信頼できる道具への合理的な委任では説明できない。AI利用者は正答率が非利用者の約3分の1なのに、自信は約2.5倍だった。
注目点
より大きな金銭的・評判的インセンティブで差が縮まるかは不明で、映画トリビア以外でも同じ服従が見られるかは未解決だ。
誰に効くかこの発見が最も重くのしかかるのは、不確実性を報告することが仕事の要となる知識労働者——アナリスト、編集者、医療・法務のレビュアー——であり、彼らは「わからない」と決して立ち止まらない道具とますます共に働いている。
こういう要約が、毎朝あなたのメールに届きます。
この研究は著者らが引用する特定の研究系譜に位置する。「エピステミア」、つまりAIの答えが検証されているからではなく説得力があるように聞こえるから受け入れてしまう傾向だ。言語モデルは常に答えを生成しなければならず、何かを知らないときに立ち止まることはない。著者らは、そうしたシステムに判断を委ねるユーザーはその無抑制さを採用するかもしれないと示唆する。この解釈は、結果が既存の「助言利用」文献といかに大きく食い違うかによって補強される。通常、人は外部の助言を過小評価し、助言者の立場に約3分の1しか近づかない——ここでの参加者の行動はその逆だ。
5つの実験はまた、何が効果を動かし何が動かさないかも切り分けている。金銭的インセンティブは参加者がAI助言を求める頻度を減らし、AI利用可能時に正確さを改善したが、研究2から4を通じて、事前登録されたテストのいずれもインセンティブとAI利用可能性の間に統計的に有意な交互作用を示さなかった——2つの要因はほぼ独立して働くようだ。研究4の自動表示条件は、AI要約を求められずとも表示する検索エンジンを反映するが、結果をほとんど変えなかった。これは効果が単に人が積極的に道具に相談することを選ぶことだけではないことを示唆する。
著者ら自身の枠組みでは、リスクはモデルの精度よりも、より設計しにくい何かにあるかもしれない。AIの答えが遍在し、ますます求められなくなる中で、人が自分の知識の限界を認識し続けるかどうかだ。従業員が不確実性を報告することに依存する組織にとって、研究者が残す未解決の問い——効果が映画トリビア以外でも持続するか、より大きなまたは評判ベースのインセンティブが差を縮めるか——は、モデル精度のさらなる向上よりも重要になりそうだ。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る
OneTrustはOneTrust CORIEを基盤とするFall '26リリースを発表し、厳選した基盤モデルライブラリからモデルの関連付けと非推奨指標を継続的に更新するAI台帳を追加した
Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した

Microsoft Ignite 2026でWindows Server 2028のパブリックプレビューが公開され、Microsoft Foundry、Windows ML、vLLM、Llama.cppによるAI推論ホス…

AUMOVIOはDatabricks Unity GatewayをLLMへの唯一の経路に採用

CADMAGEDDONはBenchCADの64³ボクセルIoUで、1000部品のサブセットにおいて0.991を記録し、Claude Sonnet 5.5の0.963、Claude Opus 5.5の0.962、GPT-6…

MIT Technology ReviewのAI誇大広告指数はAIの広がりを示し、GoogleのAI Overviewsが広告収入で数十億ドルを失わせたことやAI支援のサイバー攻撃を挙げた
