看護師、HCAのAI勤務管理を非難

全米最大の病院チェーンであるHCA Healthcareは、時間とコストを節約しシフト割り当てのえこひいきをなくすことを目的に、2023年にTimpaniの導入を始めた。当時のHCAの最高イノベーション責任者Michael Schlosserは、このツールが管理者の勤務表作成時間を減らし、高コストの派遣看護師への依存を下げると述べていた。しかし全米の看護師は、このソフトが日曜の人員不足から一時的な配置転換の増加まで新たな問題をもたらしたと語る。苦情を受けて小規模な更新が行われたが、看護師は問題が続いていると報告し、会社がこの技術に関する情報提供を求める組合の要求を拒否したと述べている。

懸念はHCAにとどまらない。大手画像診断チェーンのRayus Radiologyは、同じくPalantir Foundry上に構築されたツールを導入し、今年初めから勤務表の誤りに関する苦情を受け始めた。要求が誤った患者プロファイルに紐づけられたり、オーダーと一致しない検査が記載されたりする事例も含まれる。Palantirの広報担当者は正式なコメントを拒否したが、同社は自社ソフトは情報を提示するだけで、データと意思決定の責任は顧客にあると述べてきた。

事態の展開は、HCAとRayusが、人による監督が患者ケアに影響する前に誤りを効果的に捕捉できることを示せるかどうかにかかっているかもしれない。看護師にとっては差し迫った問題で、ツールが不安の種になり一部の同僚が辞めたと語る。あるHCAの精神科センターでの組合の苦情は仲裁に進む可能性が高く、Timpaniがどのように勤務表を決めているかの透明性を迫る可能性がある。