AIToday
大規模言語モデルAI安全性・アラインメントTHE DECODER掲載日時: 2026年9月27日 4:00

AIがあっても誤答 不明率3%に低下

LINEで送る
AIがあっても誤答 不明率3%に低下

3つのポイント

  1. 何が起きたか

    3,132人参加の5実験で、AIの助言を見られるだけで、自動表示の場合も含め、判断を保留する意向が44%から3%に低下した。使用モデルStep 3.5 Flashはほぼ常に誤答だった。

  2. なぜ重要か

    助言はほぼ誤りだったため、信頼できる道具への合理的な委任では説明できない。AI利用者は正答率が非利用者の約3分の1なのに、自信は約2.5倍だった。

  3. 注目点

    より大きな金銭的・評判的インセンティブで差が縮まるかは不明で、映画トリビア以外でも同じ服従が見られるかは未解決だ。

誰に効くかこの発見が最も重くのしかかるのは、不確実性を報告することが仕事の要となる知識労働者——アナリスト、編集者、医療・法務のレビュアー——であり、彼らは「わからない」と決して立ち止まらない道具とますます共に働いている。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

この研究は著者らが引用する特定の研究系譜に位置する。「エピステミア」、つまりAIの答えが検証されているからではなく説得力があるように聞こえるから受け入れてしまう傾向だ。言語モデルは常に答えを生成しなければならず、何かを知らないときに立ち止まることはない。著者らは、そうしたシステムに判断を委ねるユーザーはその無抑制さを採用するかもしれないと示唆する。この解釈は、結果が既存の「助言利用」文献といかに大きく食い違うかによって補強される。通常、人は外部の助言を過小評価し、助言者の立場に約3分の1しか近づかない——ここでの参加者の行動はその逆だ。

5つの実験はまた、何が効果を動かし何が動かさないかも切り分けている。金銭的インセンティブは参加者がAI助言を求める頻度を減らし、AI利用可能時に正確さを改善したが、研究2から4を通じて、事前登録されたテストのいずれもインセンティブとAI利用可能性の間に統計的に有意な交互作用を示さなかった——2つの要因はほぼ独立して働くようだ。研究4の自動表示条件は、AI要約を求められずとも表示する検索エンジンを反映するが、結果をほとんど変えなかった。これは効果が単に人が積極的に道具に相談することを選ぶことだけではないことを示唆する。

著者ら自身の枠組みでは、リスクはモデルの精度よりも、より設計しにくい何かにあるかもしれない。AIの答えが遍在し、ますます求められなくなる中で、人が自分の知識の限界を認識し続けるかどうかだ。従業員が不確実性を報告することに依存する組織にとって、研究者が残す未解決の問い——効果が映画トリビア以外でも持続するか、より大きなまたは評判ベースのインセンティブが差を縮めるか——は、モデル精度のさらなる向上よりも重要になりそうだ。

よくある質問
なぜ研究者はAIがほぼ常に間違える問題を使ったのか?
『ベッカムに恋して』のチームユニフォームの色など、映画の細かな視覚的詳細に関する問題を選んだ。こうした詳細はオンラインテキストにほとんど現れず、ハルシネーションの格好の標的だからだ。助言はほとんど誤りだったため、この服従は信頼できる道具への合理的な信頼では説明できない。
正答に報酬を与えれば問題は解決したのか?
いいえ。研究2から4では正答に10セント、誤答に10セントの損失を加えたが、インセンティブとAI利用可能性の間に統計的に有意な交互作用を示したものはなかった。インセンティブはAI助言を求める頻度を下げ(研究3で6回中4.53回対5.27回)、研究者はその効果を控えめだと評している。
AIの回答が自動表示されるかどうかは重要か?
ほとんど重要でない。研究4で参加者が求めなくてもAI回答が表示された場合、インセンティブなしでも判断保留はAIなしの35%からAIありの1%に低下した。研究者はこれがAI要約を表示する検索エンジンや、求められていない提案をする執筆アシスタントを反映していると述べている。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

日本のビジネスにどう効く?
日本のビジネスには、AIを実際に使える形にするためのスキルとデータ環境の不足が大きく効いています[1]。 ・日本の生成AI本番運用率は17%で、世界平均の32%を大きく下回り、14カ国中最下位です[1]。 ・日本で最も大きな課題は「AIおよびデータに関するスキルと知識の不足」で80%に上っています[1]。 ・企業がPoC段階にとどまる背景には、データの出所や品質への不確かさ(71%)やリアルタイムデータの欠如(69%)もあります[1]。出典日本、生成AI本番運用17%で14カ国中最下位(AIToday・2026-08-26)

AITodayのAIによる回答読者2026年9月27日

これは何がすごいの?
この研究がすごいのは、AIの助言があるだけで「わからない」と答える割合が44%から3%に激減し、しかも助言はほぼ常に誤りだった点です[1]。 ・3,132人参加の5つの実験で、AIの助言を見られるだけで判断保留の意向が大きく低下しました[1]。 ・AI利用者は正答率が非利用者の約3分の1だったのに、自信は約2.5倍に高まりました[1]。 ・助言がほぼ常に間違っていたため、この服従は信頼できる道具への合理的な委任では説明できないと指摘されています[1]。 ・AI回答が自動表示される場合も、判断保留はAIなしの35%からAIありの1%に低下しました[1]。出典AIがあっても誤答 不明率3%に低下(AIToday・2026-09-26)

AITodayのAIによる回答読者2026年9月27日

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

OneTrust、AI台帳を継続更新する秋リリース

OneTrustはOneTrust CORIEを基盤とするFall '26リリースを発表し、厳選した基盤モデルライブラリからモデルの関連付けと非推奨指標を継続的に更新するAI台帳を追加した

NEWSiliconANGLE AI4時間前

マイクロソフトがAIエージェントで攻撃対抗サービス提供開始

Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した

NEWPublickey4時間前

Windows Server 2028がパブリックプレビュー公開

Microsoft Ignite 2026でWindows Server 2028のパブリックプレビューが公開され、Microsoft Foundry、Windows ML、vLLM、Llama.cppによるAI推論ホス…

NEWPublickey4時間前

AUMOVIOがLLMの唯一の経路をDatabricksに統一

AUMOVIOはDatabricks Unity GatewayをLLMへの唯一の経路に採用

NEWDatabricks AI Blog4時間前

CADMAGEDDON、5ベンチマークで最先端CADモデル超え

CADMAGEDDONはBenchCADの64³ボクセルIoUで、1000部品のサブセットにおいて0.991を記録し、Claude Sonnet 5.5の0.963、Claude Opus 5.5の0.962、GPT-6…

NEWAI Weekly4時間前

MIT Technology ReviewのAI指数、AIは遍在

MIT Technology ReviewのAI誇大広告指数はAIの広がりを示し、GoogleのAI Overviewsが広告収入で数十億ドルを失わせたことやAI支援のサイバー攻撃を挙げた

NEWMIT Technology Review AI4時間前
次の記事へOpenAI、最上位モデル学習を一時停止