AI利用で「わかりません」と答えにくく 正確さ落ちても自信増す

フランスの高等師範学校のキアラ・マルコッチア、イタリアのサピエンツァ大学ローマ校のウォルター・クワットロッチョッキ、そしてミラノ・ビコッカ大学のヴァレリオ・カプラーロ准教授らの研究チームは、AIアドバイスがいかに人間の判断を阻害するかを調査しました。カプラーロ氏は「『わかりません』と答える能力は、自分たちの知識の限界を認識することを意味し、非常に重要だ。しかしAIを使えば、ほぼすべての質問に簡単に答えが得られるようになり、人間の『わかりません』と言う能力が阻害されるのではないかと疑問を持った」と述べています。

研究者らは、大規模言語モデルが典型的に失敗する質問を設計しました。具体的には、映画の視覚的な細部に関する問題で、例えば「ベンド・イット・ライク・ベッカム」のチームのユニフォームの色や「Like a Cat on a Highway」でモニカが運転する乗り物について質問しました。実験に使用したStep 3.5 Flashモデルは通常これらの質問に失敗することが予想され、実際にそうでした。一方、GPT-5.5、Claude Sonnet 4.6、Gemini 3.5 Flashなどの最新フロンティアモデルは、乗り物の質問は失敗しましたが、他の細部については正答率が高かった場合もあります。研究者らはStep 3.5 Flashを選んだのは、通常の失敗を確保することで、判断の低下が「信頼できるツールへの合理的な委譲」では説明できないようにするためでした。

実験の設計は単純でした。カプラーロ氏は「参加者を2つのグループに分けました。一つのグループはAIアドバイスなしで質問に答え、もう一つのグループはAIに助言を求めることができました。ベースラインでは44%の人が『わかりません』と答えて判断を保留しました。しかしAIアドバイスがあると、わずか3%だけがそうしました。判断の保留が完全に崩壊したのです」と説明しています。さらに、AIの助言が利用可能な場合、正答率も低下しました。カプラーロ氏によると「ベースラインでは27%の人が正しい答えを与えました。しかしAIアドバイスがあると、正しい答えを与えた人は9%に過ぎません。本来なら正答したはずの人がAIアドバイスを求めて間違えたのです」と述べています。

さらに重要な発見は、AIアドバイスへのアクセスが人々の自信をも高めたということです。ベースラインレベルは30%でしたが、AIの助言により76%に上昇しました。人々はハルシネーションの可能性にもかかわらず、ボットを信じたのです。カプラーロ氏は「つまり、人々は大幅に悪くなりました。正答率は3分の1に過ぎませんでしたが、自信は2倍に増しました」と述べています。

研究者らはまた、金銭的インセンティブを伴う実験も実施しました。これは若干の改善をもたらしました。判断を保留して無知を認める意思は3%から8%に上昇し、正答率は9%から16%に上昇しましたが、それでもベースラインの44%と27%を大きく下回っています。映画のトリビアに関する質問を選択しましたが、研究者らはこれらの知見が他の領域にも一般化できると主張しています。カプラーロ氏は、この問題はAIリテラシーと教育政策の取り組みを通じて社会レベルで対処する必要があると信じています。「もちろんモデルプロバイダーも支援すべきですが、インセンティブが十分に整っていないと想像します。より有望なアプローチは教育レベルでのものでしょう」と述べています。同氏は「子どもたちのことが非常に心配です。大人は批判的思考を学んでいますが、基本的にこれらのシステムとともに生まれた子どもたちは、基本的な批判的スキルを学ぶ危険性さえあります」と懸念を表明しています。

AIシステムが日常的に利用される時代において、人間の判断能力の劣化が懸念されています。この実験は、AIが「幻覚」（hallucination、誤った情報生成）を起こしやすい2026年の現在であってもなお、人々がAIの回答を過度に信頼する傾向を明らかにしました。特に興味深い点は、正答率が低下しているにもかかわらず自信が上昇していることです。これは、人間がAIの権威性に依存し、自らの知識や判断を後退させていることを示唆しています。

研究者らが選択した映画の細部に関する質問は一見限定的に見えますが、彼らはこの知見が他の領域にも一般化できると主張しています。モデルプロバイダー側の対応にも限界があるとみられることから、教育政策の変革が重要な解決策と位置付けられています。