ブリストル大、医療AI審査の枠組み提案

ブリストル大学の研究者は見慣れた問題から出発する。医療AIは初期の検査では良好に見えても、実際の診断と無関係な訓練データ内の特徴に依存するため、臨床現場に到達すると失敗し得る。医学は、体内への正確な影響が完全には解明されていない薬剤について、用量、投与時期、患者集団を明記した構造化された情報パッケージを添付することで、同様の不確実性に対処してきた。化学物質を信頼できる治療へと変えるのである。ブリストル大の提案は、その論理をAIに応用する。

枠組みの3つの審査項目は、具体的な過去の失敗事例に基づく。2021年のCOVID X線システムに関する研究は、無関係な画像の細部に依存し、別の医院で失敗したことを示した。別の2021年の研究では、X線読影AIは十分な医療を受けられない集団において疾患を検出する可能性がはるかに低く、すでに劣ったケアを受けている患者をさらに傷つけただろうことが分かった。著者らは3番目の領域——臨床適合性——を最も重要とみなす。喘息患者の肺炎を低死亡リスクと評価したAIを挙げる。訓練データが救急での積極的な治療を反映していたため、トリアージには無価値だった。

著者らはこれを完成した解決策ではなく出発点として提示する。実用的な信頼性は依然として試行錯誤であり、専門知識、外部レビュー、絶え間ない調整を要する。成否は、開発者と審査側が、導入前に問題を捉えるのに十分早く共通の言語を採用するかどうかにかかっている。