バーモント州薬局のAIアシスタント、個人情報漏洩の懸念

Kinney DrugsによるBurtの導入は、全米の医療システムに広がるAI導入という広範な傾向を反映している。しかしその実行は技術的および規制上の双方の失敗を露呈させている。薬局は効率向上を理由に挙げた。繰り返しの電話を排除して薬剤師がより価値の高い業務に集中できるようにするというものだった。だが顧客の報告は反対である。今や顧客はAIの過誤を解決するため薬剤師へのコール頻度が増えており、バーモント州で慢性的な人員不足に直面している既に負担の大きい職場にさらなるストレスを加えている。

プライバシーの側面はこの問題をさらに深刻化させている。顧客の健康情報を第三者ベンダーSynerioを経由させることで、薬局はデータ侵害の攻撃対象を増やしている。バーモント大学コンピュータ科学教授Joseph Nearは、顧客はKinney DrugsのセキュリティだけでなくSynerioのセキュリティも信頼しなければならず、これは基本的なシフトであってリスクを増加させると指摘している。6月16日に署名され2年後に施行されるバーモント州の新しいデータプライバシー法S.71は、こうした懸念に対処することを目的としている。しかし多くのデータ収集カテゴリを適用除外にしており、消費者の同意に依存している。専門家はこのアプローチは現実的ではないと主張している。Kinney Drugsの利用条件は11の文書に分散しており、顧客はリクエスト電話でBurtの音声を聞くまで、AIとの相互作用に同意したことに気づかないことが多い。

地方部の顧客は追加の制約に直面している。システムを信頼しない者は別の薬局に簡単に変更できないため、AIを受け入れるか直接訪問するかいずれかを選択する。確実な交通手段を持たない者にとって後者は利用不可能である。この構造的な制約は、実際のところ同意が選択肢ではないことを意味している。