AIToday
用語解説

ハルシネーションとは?AIが「それっぽいウソ」をつく理由と、仕事での防ぎ方

著者:(AITODAY プロダクトオーナー)

公開日:最終更新日:

ハルシネーションとは?AIが「それっぽいウソ」をつく理由と、仕事での防ぎ方

この記事でわかること

  • ハルシネーションは、AIが事実でないことを、自信ありげにそれっぽく答えてしまうこと
  • AIは「正しいこと」ではなく「ありそうな文章」を作っているので、ゼロにはならない
  • 数字、固有名詞、出典は特に間違えやすいので、元の情報で確かめる

AIがもっともらしい間違いを答える「ハルシネーション」の意味と、なぜ起きるのかを専門用語なしで解説。起きやすい場面と、仕事で使うときの防ぎ方。

一言でいうと、ハルシネーションは「AIが知らないことを、知っているかのように答えてしまうこと」です。間違いなのに文章は自然で自信たっぷりなので、気づきにくいのが一番やっかいなところです。

ハルシネーションとは

ハルシネーション(hallucination)は、英語で「幻覚」という意味です。AIが、実在しない本や論文、存在しない機能、間違った数字などを、本当のことのように答える現象をこう呼びます。

有名な例が、2023年にアメリカで起きた件です。弁護士が ChatGPT に調べさせた判例を裁判所に出したところ、その判例が実在しないものだと分かり、弁護士は制裁を受けました。

なぜ起きるのか

ChatGPT や Claude などのAIは、「次に来そうな言葉」を予測して文章を作っています。正しいかどうかを1つずつ確かめているわけではありません。

そのため、知らないことを聞かれても「それっぽい答え」を作れてしまいます。OpenAI は2025年の論文で、AIの学習や評価のやり方が「分からない」と言うより当てずっぽうで答える方が得をする仕組みになっていることが、原因の1つだと説明しています。

起きやすい場面

  • 数字:売上、日付、統計、料金
  • 固有名詞:人の名前、会社名、本や論文のタイトル
  • 出典やURL:「出典はこちら」と出してきたリンクが存在しない
  • 新しい情報:AIが学習した後に起きた出来事
  • マイナーな話題:ネットに情報が少ないこと

仕事での防ぎ方

  1. 資料を渡してから聞く。手元の資料を見せて答えさせる(RAG)と、ゼロから答えさせるより大きく減ります
  2. 出典を出させて、自分で開く。リンクや引用箇所を出させ、実際に開いて確かめます
  3. 「分からなければ分からないと言って」と書く。推測で埋めないように頼むと、当てずっぽうが減ります
  4. Web検索をオンにする。最新の情報は、検索してから答えるモードを使います
  5. 大事な数字と固有名詞は必ず人が確認する。社外に出す文書、契約、お金に関わるものは特にです

よくある勘違い

  • 「新しいAIならハルシネーションしない」:違います。新しいモデルほど減ってはいますが、なくなってはいません。
  • 「自信満々に答えているから正しい」:関係ありません。AIは、間違っているときも同じ口調で答えます。
  • 「AIに『本当?』と聞けば確かめられる」:当てになりません。同じAIに聞き直しても、間違いをそれっぽく正当化することがあります。

まとめ

ハルシネーションは、AIがそれっぽい間違いを自信ありげに答えてしまう現象です。AIの仕組み上ゼロにはならないので、資料を渡して答えさせ、数字・名前・出典は元の情報で確かめてから使ってください。

次に読む

よくある質問

Q. ハルシネーションはなくなりますか?
A. 今のAIの仕組みでは、完全になくすのは難しいと考えられています。減らす工夫は進んでいるので、使う側は「起きる前提」で確認の手順を決めておくのが現実的です。
Q. どのAIが一番ハルシネーションしにくいですか?
A. モデルの更新が早く、聞く内容によっても変わるため、一概には言えません。どのAIでも、資料を渡す、出典を確かめる、の2つは効きます。

出典:OpenAI「Why language models hallucinate」(2025年)

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

関連記事