生成AIの捏造、推論モデルと検索で大幅抑制

議論は現象の定義と技術の発達段階を区別することを軸に組み立てられている。2023年頃の大規模言語モデルは知識がなくても回答する傾向があり、存在しないものにもっともらしい著者や年、定義を付けて説明していたと指摘する。その一因を評価のインセンティブに求め、正答に点を与え誤答と無回答を同等に扱う採点では推測が合理的になるとし、2026年のNature論文で論じられたこの構造は今も評価設計上の課題だと述べる。ただし著者は、そうしたインセンティブの存在が現在のすべてのモデルが推測を優先している証拠にはならないと注意を促す。

記事が中心に据える変化は、答える前に調べる能力だ。ウェブ検索、文書検索、検索拡張生成は、蓄えた知識だけでなく外部情報に回答を根拠付ける同じ発想の異なる実装だと説明される。推論と不確実性の扱いの改善と相まって、推測するか断るかという選択肢に、まず検索するという第三の道が加わる。著者は、ベンチマークの向上は検索と情報統合が良くなったことを示すもので、すべての回答の前に検索が自動的に行われるわけではないと強調する。

経済面では、AIの経験と使いこなす能力を分けて考える。利用経験率58.8%に対し、別のICTリテラシー調査で5問すべてを外した人が39.5%いたことを対比しつつ、後者はハルシネーションの検出力を直接測ったものではないと注記する。また2025年のQuarterly Journal of Economics誌のカスタマーサポート業務研究を引き、AI支援で平均生産性が約15%上がり、経験の浅い担当者ほど効果が大きかったことを、AIが問題設定や出力評価ができる人には格差を広げうる一方で、格差を縮める可能性もある証拠として挙げている。