著名な生命倫理学者Ezekiel EmanuelとAIテレメディスン企業CEO Neal Khoslaによる医学誌JAMAの論説は、自律型AIが患者歴把握、診断、検査選択、ガイドラインに基づく治療、慢性疾患管理といった医学推論の中核的タスクで既に医師と同等またはそれを上回っており、2030年までに医師とAIのチーム以上のパフォーマンスを発揮するようになると予測している。
著者らは規制当局に対し、AI判断への人間による承認を義務づけないよう警告しており、そうした規則はAIが明らかに優位性を持つようになった時点で時代遅れの医療基準を固定化する可能性があると指摘している。
しかし、実証はほぼ模擬実験に基づいており、身体的処置とAIの失敗メカニズムは依然として実質的なリスクを構成している。
何が起きたか
生命倫理学者Ezekiel EmanuelとCurai Health CEO Neal Khoslaによる医学誌JAMAの論説は、自律型AIが患者歴の把握、診断、検査選択、ガイドラインに基づく治療、慢性疾患管理といった医学推論の中核的タスクで既に医師と同等またはそれを上回っており、2030年までにいくつかのワークフローでは医師とAIのチーム以上のパフォーマンスを発揮するようになると予測している。
なぜ重要か
この論説は、AIは医師を支援するべきであって決して置き換えるべきでないと主張する米国医学会と米国内科学会に直接異議を唱えるものである。規制当局が人間による最終承認の要件を明文化すれば、やがてAI単独のパフォーマンスに後れを取ることになる医療基準が固定化される危険がある。つまり、規制遵守と最適な医療のいずれかを選択せざるを得なくなる。
注目点
著者らは重大なギャップを認めている。実証は主に単一タスクの模擬実験に依存しており、実際の患者ケアではないこと、手術、出産、大腸内視鏡検査などの身体的処置は人間に留まること、AIシステムが医師とは異なる方法で失敗する（幻覚、障害、サイバー攻撃）ことである。自律型AIが進展すれば、責任、支払いルール、医学教育のいずれもが再検討を要する。
この論説は実証的証拠と将来予測という2つの柱に基づいている。証拠の側面では、著者らは2024年以降の研究から、患者歴把握、診断、検査選択、ガイドラインに基づく治療、慢性疾患管理という5つの中核的推論タスクでAIが医師と同等またはそれを上回っていることを示す研究を引用している。異なる結論の研究については、方法論的に不十分あるいは時代遅れとして却下している。第二の論拠は、そして論説の核心的主張は軌道論である。AIモデルは急速に改善しているのに対し、医師のスキルは（著者らは大腸内視鏡検査に関するランセット研究を証拠として引用している）不使用によって減退する可能性がある。AIが明らかに優位になると、人間の審査者は安全装置ではなく責任となる。106件の実験をまとめたメタ分析がこの主張を裏付けており、AIが人間を上回る場合、人間の介入が結果を悪化させることが示されている。著者らはチェスの歴史を例に挙げている。Deep BlueがKasparovを破った1997年以降、人間とマシンのチームが優位を保っていたが、2017年までに純粋なAIがチームを上回るようになった。
論説の真の争点は規制にある。政策立案者が医師によるAI判断の承認を義務づける規則を明文化すれば、その規則はやがて実証的に劣ることになる医療基準を固定化することになる。著者らは責任、支払い、医学教育の枠組みはいま再検討が必要だと主張している。しかし著者ら自身も重大な限界を認めており、ほぼすべての実証は単一タスクの模擬実験に由来するもので、実際の患者ケアに基づいていないこと、人間とモデルの間の情報ハンドオフが弱点であること、身体的処置は現在のロボット能力を超えていること、自律的システムが医師とは異なる方法で失敗する（幻覚、インターネット障害、サイバー攻撃を通じて）ことが挙げられている。これらのリスクは著者らが述べる高い精度の主張に対して秤量されなければならない。
AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。
登録無料・30秒で完了・いつでも解除できます
この記事についてわからないことをAIに質問できます。Q&Aはこのページに公開され、他の読者も読めます。
