医療AIに重大欠陥、OpenAI等で共通

OpenEvidence は 2021 年に設立された無料の広告サポート型医療 AI 検索エンジンで、査読済みの医学雑誌から回答を取得し、エビデンスの強度にラベルを付ける。医療 AI ブームのポスター チャイルドとなっており、約 1 年間で約 7 億ドルをほぼ調達した。2 月に 10 億ドルで評価され、7 月に 35 億ドルに成長し（GV と Kleiner Perkins が共同主導）、10 月に 60 億ドル、1 月に 120 億ドルで、Thrive Capital と DST Global が共同主導するラウンドとなった。

Doximity は医師向けの専門ネットワーク プラットフォームで、異なるアプローチをとっている。医師が患者ノートを要約したり、薬物相互作用をチェックしたり、ドキュメントを作成したりするのを支援する Ask という AI アシスタントを販売している。Ask は 150 以上の医療システムとの有料エンタープライズ契約に統合されており、すべての回答は医師が AI 出力を引用している元のソースに照合して検証する PeerCheck という人間レビュー層を通過する。Doximity は春の四半期収益が 1 億 4,540 万ドルで、前年比 5% 増を計上した。

7 月中旬、スタンフォード大学、ハーバード大学、ARISE ネットワークの研究者は、これらのツールをテストするために NOHARM という独立ベンチマークを立ち上げた。調査では、4 つのシステムそれぞれ──Doximity Ask、OpenEvidence の AI ツール、OpenAI の GPT-5.6 Sol、Anthropic の Claude Fable 5──を 1,100 件の実際の臨床ケースで実行した。各モデルを患者への害についてスコアリングするために約 13,000 件の医師の注釈を収集した。Doximity Ask が最初にランク付けされた。しかし、OpenEvidence の CEO Daniel Nadler は Doximity のスコアの正確性に異議を唱え、メール内で「厳密な調査方法論は、完全記憶を持つ AI が『再テスト』を求めることを許可しない」と述べ、NOHARM 調査自体は査読されていないと述べた──「医学でさえ最も不正な医学的結論についての基本的なテーブル ステーク要件」。

しかし、実際の発見はランクについてではなかった。テストされたすべての AI システムで、有害なエラーの 76.6% が欠落であった──AI が何かを見落としたのであって、事実に反することを述べたのではない。Scripps Research の心臓病専門医で Doximity の PeerCheck プログラムの共同議長である Eric Topol は、その重要性を強調し、診断エラーの研究に人生をかけてきた。「欠落エラーはできるだけゼロに近い状態に保つ必要がある」と述べた。彼は、今日のモデルは医療 AI が改善されても「準備完了の幻想」を維持しており、医師は AI なしよりも AI を備えた医師の方がより良いケアを提供していることを指摘した。しかし、欠落問題は、人間による監視が AI のギャップをキャッチして修正する方法についての仮定を損なう。

規制環境はさらに複雑になっている。FDA は 1 月に AI 駆動型臨床意思決定支援ツールに対する姿勢を緩和し、医師が AI の推論を独立して確認できるかぎり、より多くの操作の余地を与えた。しかし、州は反対方向に動いており、医療での AI 使用を管理する 2026 年に 12 州以上の新しい法律を可決した──ほとんどが AI 支援による決定が患者に到達する前に人間が署名することを要求している。医療過誤法はどちらのトレンドにも追いついていない。裁判所はまだ誰が責任を負うか──医師、病院、または AI ベンダー──モデルの提案が間違った場合に責任を負うかを解きほぐしている。その法的グレーゾーンは、規制当局、病院システム、および医療 AI の次の波の投資家が今後医療 AI について何を求めるかについて、早期の信号となる可能性が高い。

NOHARM 調査は、医療 AI 規制の極めて重要な時期に到来する。FDA の 1 月の AI 駆動型臨床意思決定支援ツールの監視緩和の決定は、医師が AI の推論を独立して確認できなければならないという条件付きだった。これと対照的に、2026 年に 12 州以上が AI 支援による決定が患者に到達する前に人間の承認を要求する新しい法律を可決した。この相違は、医療 AI を安全に管理する方法についての深い不確実性を反映している。規制当局と法制度のいずれも、AI の推奨が間違った場合に誰が責任を負うかは決定していない。調査が強調する相違点──誤った声明ではなく、欠落が最も害をもたらすということ──は、この課題の核心に触れている。症状または薬物相互作用について沈黙している AI は、医師がそれを探すべきことをすでに知っていない限り、医師による事実確認ができず、人間によるレビューだけで AI エラーをキャッチして修正できるという仮定を損なう。

OpenEvidence の急速な成長（2 月の 10 億ドルの評価から 1 月の 120 億ドルへ）は、無料でエビデンスに基づいた医療 AI に対する投資家の熱意を反映しており、Doximity のエンタープライズ モデル（春の四半期収益が 1 億 4,540 万ドルで、前年比 5% 増）は、追加の保護措置付きの病院ワークフローに組み込まれた AI ツールの需要を示している。しかし、両方のアプローチは、より優れたパフォーマンス スコアと人間による監視が欠落問題を解決できることを前提としている。NOHARM データは異なることを示唆している。最高のパフォーマンスを発揮するモデルでもギャップが残っている。CEO Daniel Nadler の防御──調査は査読されていないし、Doximity の方法論に疑問を呈する──は、より広い緊張を反映している。医療 AI ベンダーとプラットフォームは、医療実践を支配するエビデンス フレームワークと責任ルールが適応できるよりも速く成長している。

まだコメントがありません。最初のコメントを投稿しましょう！