AI要約の誤りが記憶を歪める

この研究は、出来事の後に与えられた誤情報がその出来事の記憶を変える「誤情報効果」に関する長い心理学研究の系譜の上に位置する。研究チームの新味は、誤りうると人が知っているAIシステムが情報源であってもこの効果が当てはまるかを問うた点にある。

実験は二つを切り分けた。AIの要約自体は質が低く、20件すべてが誤りを含み、映像の核心である衝突が19件で欠けていた。一方、328人の米国成人が映像を見た後に道路標識を入れ替えた要約を読むと、正確な要約を読んだ人に比べて標識の想起が急落した。要約が触れなかった細部の想起は高くとどまった。

結果が示唆するのは、危険はAIが誘導的な質問をする場合に限られないかもしれないということだ。後から読む要約だけでも十分でありうる。読者にテキストがAI由来だと伝えても有意な差がなかったため、結論はこうした効果が実験室外でも現れるかどうかにかかっており、研究チームは実際の警察のボディカメラ映像で検証する予定だ。