Wells FargoがAI認可取消の証明を顧客に要求へ

11月24日発効のWells Fargoの改定オンラインアクセス契約は、JPMorganChaseを含む大手銀行が導入した、認可されたAIエージェントの行為について顧客に責任を負わせる条項を超える内容だ。新条項は、顧客がAIエージェントの認可を適切かつ適時に取り消し、その証拠を保管し、銀行の求めに応じて提出することを求める。第17条(d)に基づき銀行に通知するまで、法律や規制の許す範囲でエージェントの活動に対する責任は顧客に残る。Wells Fargoの広報担当者は、銀行のシステム外でエージェントの権限が失効した時期を銀行が把握できない場合があるため、契約は記録の保管を求めていると述べた。

消費者がこうした証拠を現実に用意できるのか疑問視する声もある。Morgan StanleyとStandard Charteredの元幹部でポッドキャスト「Old Men, New Money」を主宰するDouglas Borthwick氏は、チャットのスクリーンショットは顧客が依頼したことしか示さず、エージェントが停止した証明にはならず、改ざんも容易だと指摘する。Borthwick氏は開発者やAIエージェント向けにウォレット認証を提供するスタートアップThe Insumer Modelを創業した。

失効を証明しても、責任の所在はなお不透明なままだ。Wolters Kluwerのシニア専門コンサルタントElaine Duffus氏は、停止の明確な指示にもかかわらずエージェントが暴走した場合に何が起きるのか、顧客・銀行・AI提供者の誰に責任があるのかを問うた。Duffus氏は、問題が生じた際に銀行がそれを把握して顧客に連絡したりキルスイッチを作動させたりできるよう、ガバナンスのプロセスやエージェント統制レイヤーが必要だと述べ、Wolters Kluwerはそれを開発中だとした。