AIToday
AI安全性・アラインメントHacker News掲載日時: 2026年7月22日 1:01

AI利用で「わかりません」と答えにくく 正確さ落ちても自信増す

LINEで送る
AI利用で「わかりません」と答えにくく 正確さ落ちても自信増す

3つのポイント

  1. 何が起きたか

    フランス・イタリアの大学研究者らが、AIアドバイスへのアクセスが人間の判断を損なうことを実験で示しました。映画の細部(例:「ベンド・イット・ライク・ベッカム」のユニフォームの色)について問う質問で、AIなしの場合は44%が「わかりません」と答えましたが、AIあり時は3%に低下。正答率も27%から9%に下がったにもかかわらず、自信は30%から76%に上昇しました。

  2. なぜ重要か

    人々はAIの誤った情報をより自分の知識より信頼し、自らの知識の限界を認識する能力が弱まっています。研究者のヴァレリオ・カプラーロ氏は「『わかりません』と言える能力は、自分たちの知識の限界を認識することを意味し、非常に重要」と指摘。この傾向は、判断停止能力が発達していない子どもたちにとって特に懸念される可能性があります。

  3. 注目点

    金銭的インセンティブを与えても改善は限定的で、AIなし時の判断停止は44%でしたが、AIあり+金銭インセンティブでも8%にとどまりました。研究者らは、この問題に対応するにはAIリテラシー教育など社会レベルでの取り組みが必要だと主張しています。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

AIシステムが日常的に利用される時代において、人間の判断能力の劣化が懸念されています。この実験は、AIが「幻覚」(hallucination、誤った情報生成)を起こしやすい2026年の現在であってもなお、人々がAIの回答を過度に信頼する傾向を明らかにしました。特に興味深い点は、正答率が低下しているにもかかわらず自信が上昇していることです。これは、人間がAIの権威性に依存し、自らの知識や判断を後退させていることを示唆しています。

研究者らが選択した映画の細部に関する質問は一見限定的に見えますが、彼らはこの知見が他の領域にも一般化できると主張しています。モデルプロバイダー側の対応にも限界があるとみられることから、教育政策の変革が重要な解決策と位置付けられています。

よくある質問
この実験はどのような質問で行われたのですか?
映画の細部に関する質問で、例えば「ベンド・イット・ライク・ベッカム」のチームのユニフォームの色や「Like a Cat on a Highway」でモニカが運転する乗り物など、大規模言語モデルのトレーニングデータに通常含まれない情報を扱いました。
金銭的インセンティブを加えた場合、結果は改善されましたか?
部分的な改善にとどまりました。判断停止(わかりませんと答える率)は3%から8%に、正答率は9%から16%に上昇しましたが、いずれもAIなしの基準値(判断停止44%、正答率27%)を大きく下回っていました。
この研究の結論は何ですか?
研究者らは、この問題に対応するにはAIリテラシー教育など社会レベルでの取り組みが必要だと主張しています。特に大人とは異なり、これらのシステムとともに生まれた子どもたちが基本的な批判的思考スキルを学ばないリスクを懸念しています。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

OneTrust、AI台帳を継続更新する秋リリース

OneTrustはOneTrust CORIEを基盤とするFall '26リリースを発表し、厳選した基盤モデルライブラリからモデルの関連付けと非推奨指標を継続的に更新するAI台帳を追加した

NEWSiliconANGLE AI4時間前

マイクロソフトがAIエージェントで攻撃対抗サービス提供開始

Microsoft Ignite 2026でマイクロソフトは赤・青・緑チームのエージェントを組み合わせ攻撃模擬・検知調査・脆弱性修正を行うMicrosoft Perceptionの一般提供を発表した

NEWPublickey4時間前

Thomas Nagel、AI意識説を「馬鹿げている」と一蹴

哲学者トーマス・ナゲル氏はバーグルエン賞受賞後のインタビューで、大規模言語モデルが意識を持つ可能性を真剣に受け止めるのは「馬鹿げている」と述べ、AnthropicのClaudeへのアプローチを「犯罪的」と呼んだ

NEWWIRED AI4時間前

NotionのAIチャット流出おそれ、幹部が日本での対応状況明かす

Notion LabsのCISOデイビッド・ツァオ氏は、11月2日のFireworks AIへの不正アクセスでNotion AI Insightsのチャット記録が流出した可能性を受け、11月12日に影響を受けた日本顧客へ…

ITmedia AI+10時間前

Z世代の33%がAIを伴侶代わりに、毎日利用層では50%

ギャラップとDigital Wellness Labが16カ国・15〜22歳の15,925人を調査し、Z世代の33%がAIを伴侶代わりにしていると判明

WIRED AI10時間前

CodeRabbit、GPT-6 Cyberをセキュリティ製品に統合

CodeRabbitはOpenAI Daybreak Defense Networkに参加した

PR TIMES (AI)13時間前
次の記事へNvidia、Vera Rubinチップで CPU強化