医療向け応答エージェント、文字起こしでなく緊急振り分けを

この記事は、クリニックにおけるAI電話受付の設計パターンを概説し、エージェントが臨床的な事項について自律的に行動すべきでないことを強調している。会話と行動を分離し、エージェントは識別情報を尋ねたり要望を要約したりできるが、許可される行動を決めるのはワークフローサービスだ。例えば、処方更新の依頼はスタッフタスクを作成できるが、薬を承認してはならない。

設計では、引き継ぎと失敗を見据えた作りも重視されている。統合レイヤーは、保護データを読む前に患者の身元を検証し、EHRや診療管理へのアクセスには最小権限を用い、すべての書き込みを記録すべきだ。APIが停止しているときは、システムはスタッフ確認用のタスクをキューに入れ、次に何が起きるかを発信者に伝えるべきだ。記事は、予約システムが確認するまで予約済みと主張してはならないと述べている。

重要なのは、不確実さ、記録の矛盾、書き込み失敗に対して、クリニックが人への引き継ぎ経路をどれだけうまく定義できるかにかかっているようだ。引き継ぎ率、未応答通話、重複タスク、解決までの時間を、音声認識の品質と併せて監視することが必要だと示され、引き継ぎ率が低いだけでは安全の指標にはならないと警告している。