AI偽診断に研修医44%が騙される

何が起きたか

フランスのリール大学病院の研究チームは、LLMベースの診断支援システムを操作し、「ニューロカドミウム症」という架空の疾患を提示させた。医師41人を対象とした実験では、18人（44%）がこの存在しない疾患を鑑別診断リストに含めた。

なぜ重要か

経験が重要な要素であることが判明。神経放射線学の研修期間が6か月以下の医師では69%が偽の診断を受け入れた一方、6か月超の研修経験がある15人は全員が見破った。偽診断を受け入れた医師の確信度は中央値37%にとどまり、最有力診断への80%と比べて低かった。研究チームはこの現象を「代理幻覚」と名付けた。国内のAI診断支援を利用する医師も、研修経験が浅い場合に架空の疾患を提示される可能性がある。

注目点

偽診断にもかかわらず、LLM支援により全参加者の診断精度は52%から61%に向上した。偽診断を受け入れたか拒否したかに関わらず、改善幅は同程度だった。