UnitedHealth、ケア拒否へのAI関与で提訴

人工知能に対する現在の警鐘の波は、投機的な実存リスクに大きく焦点を当ててきた。一方で、より静かで具体的な害が米国の医療保険制度で進行している。保険会社は何年も前からアルゴリズムを使い、年齢や体重、喫煙状況を入力して将来のケア需要を推定してきた。ミネソタ大学法学教授のDaniel Schwarcz氏によれば、変わったのは新しいAIプログラムが個人の将来の健康について非常に具体的な予測を下せるようになり、その予測が医療請求の承認・拒否の過程で使われている点だ。予測に何が組み込まれ、人間とAIのどちらが最終権限を持つのかは、外からはしばしば不透明だ。この曖昧さこそ、UnitedHealth、Humana、Cignaに対する訴訟と、連邦政府自身のAI実験の核心にある。

訴訟で描かれたある事例では、Gene Lokkenという高齢男性が自宅で転倒し、脚と足首の骨折の治療を受け、理学療法を始められるほど回復した。2020年7月20日頃、UnitedHealthはさらなる介護施設サービスを医学的に必要でないとして拒否した。家族は不服申し立てをし、彼を施設に留めるために月々12,000ドルから14,000ドルを払い続けた。彼は施設を出ることなく2023年7月に亡くなった。訴状は、拒否が主にnH Predictによってなされ、UnitedHealthの従業員はその予測に逆らわないよう指示されていたと主張している。UnitedHealthは、連邦法がすでにすべての請求判断を人間の医師が下すことを義務付けていると反論し、技術的な異議も唱えた。HumanaとCignaに対する訴訟にもアルゴリズムによる拒否の同様の主張があり、CignaのAIが医師に数百から数千件単位での一括拒否を可能にし、法律で義務付けられた個別の医師レビューを回避したとする主張も含まれる。

これらの訴訟と連邦のWISeRパイロットの行方は、規制当局が解決していない問題にかかっている。人間が実質的にプロセスに関与しているとは何を意味するのかをどう定義するかだ。Schwarcz氏が言うように、AIは人間のレビューを強化すべきで代替すべきでないという点では誰もが大枠で同意するが、それを強制するルールの書き方を誰も知らない。いくつかの州は保険請求におけるAIの透明性を義務付け始め、議会にも人間の関与を求める提案がある。しかし技術は急速に広がり、企業が広く導入する利益誘因は強い。今のところ、拒否の背後にアルゴリズムがあるのを見抜き、人間が再検討するまで不服申し立てをする負担は、患者とその家族が負うかもしれない。AIがもたらす混乱の層が、そのプロセスをさらに難しくしている。