医療AIに重大欠陥、OpenAI等で共通

NOHARM 調査は、医療 AI 規制の極めて重要な時期に到来する。FDA の 1 月の AI 駆動型臨床意思決定支援ツールの監視緩和の決定は、医師が AI の推論を独立して確認できなければならないという条件付きだった。これと対照的に、2026 年に 12 州以上が AI 支援による決定が患者に到達する前に人間の承認を要求する新しい法律を可決した。この相違は、医療 AI を安全に管理する方法についての深い不確実性を反映している。規制当局と法制度のいずれも、AI の推奨が間違った場合に誰が責任を負うかは決定していない。調査が強調する相違点──誤った声明ではなく、欠落が最も害をもたらすということ──は、この課題の核心に触れている。症状または薬物相互作用について沈黙している AI は、医師がそれを探すべきことをすでに知っていない限り、医師による事実確認ができず、人間によるレビューだけで AI エラーをキャッチして修正できるという仮定を損なう。

OpenEvidence の急速な成長（2 月の 10 億ドルの評価から 1 月の 120 億ドルへ）は、無料でエビデンスに基づいた医療 AI に対する投資家の熱意を反映しており、Doximity のエンタープライズ モデル（春の四半期収益が 1 億 4,540 万ドルで、前年比 5% 増）は、追加の保護措置付きの病院ワークフローに組み込まれた AI ツールの需要を示している。しかし、両方のアプローチは、より優れたパフォーマンス スコアと人間による監視が欠落問題を解決できることを前提としている。NOHARM データは異なることを示唆している。最高のパフォーマンスを発揮するモデルでもギャップが残っている。CEO Daniel Nadler の防御──調査は査読されていないし、Doximity の方法論に疑問を呈する──は、より広い緊張を反映している。医療 AI ベンダーとプラットフォームは、医療実践を支配するエビデンス フレームワークと責任ルールが適応できるよりも速く成長している。