Eバイク回収不能、カスタマーサービス機能せず

オンライン小売業者からほぼ2000ドルのEバイクを購入してから数週間後、著者はFedexからのテキストメッセージで、アトランタのアパートへの配送完了と「M.M.」というイニシャルを持つ誰かによる署名を確認した。テキストが到着した時点で著者はキッチンにいたが、アパート外にバイクはなかった。注文確認を確認すると、署名は著者、その婚約者、建物内の誰にも該当していなかったため、バイクが盗まれたのか、置き忘れられたのか、または間違ったアドレスに配送されたのかは不明のままだった。

その後は複数の組織にまたがるカスタマーサービスの失敗へと続く数ヶ月間の陥没に直面することになった。Fedexへの電話は、人間との対話の要求を無視するAIチャットボットに何度も接続された。地元警察も別の障壁を加えた。行方不明の物件報告書を提出するために警察に電話したとき、彼はチャットボットを通じてルーティングされ、警察官からのコールバックを待つよう求められた。最初の報告は接触をもたらさなかった。2番目は業務会議中のコールボックを生じさせ、ボイスメッセージは残されず、その後のコールバックは彼を同じチャットボット運用システムへと戻した。バイク会社に接触して生の代表者に到達することに成功したとき、彼らはFedexに配送料を補償するよう説得した。これはほぼ総購入価格の1割である。銀行とクレジットカード会社を通じた異議唱えは、「長く、チャットボットに満ちた兎の穴」を通じて進められ、最終的には人間の代表者の説明で行き止まりになった。彼らはFedexが責任を負っているため支援できないと述べた。ほぼ3ヶ月後、著者は解決策なしで約1700ドルを失ったままだった。

著者の経験は、企業全体がAI駆動型カスタマーサービスへシフトしているより広い範囲に位置している。4月に発表された調査では、31パーセントの顧客サービスリーダーがAI導入に伴い人員削減をすでに行ったか計画中であると報告された。ベライゾンCEOのDan SchulmanはブルームバーグにAIが同社のカスタマーサービス労働力の「大きな割合」を置き換える可能性が高いと述べ、これをそのような変化に最も晒されている部門の一つとして特定した。消費者反応は鮮明に否定的であった。5月に発表された報告書は、米国、英国、カナダの消費者の59パーセントがAIカスタマーサービスエージェントに不満を表明し、85パーセントが実人員との対応を希望していることを明らかにした。

専門家は、この実装の波を部分的に研究者が「スラッジ」と呼ぶもの、つまり顧客問い合わせを意図的に阻害するための業界的戦術に帰している。それはAIによって増幅されている。エモリー大学マーケティング教授Ryan HamiltonはスラッジはAIの前に存在していたが、テクノロジーが「ディストピア的性質をちょっと上昇させた」と述べた。一部の企業リーダーはコスト削減と貧弱な顧客体験の間のトレードオフを意識的に受け入れる用意があるが、Hamiltonは多くの他者がAIシステムが最終的に改善されるという楽観論に基づいて意思決定を行っていることを示唆した。イェール大学カスタマーインサイトセンター長Ravi Dharはサンクコスト詐欺をセクタ全体でのAI採用を駆動させていることを特定した。グローバルAI支出が急上昇する中で、経営陣はAI戦略と投資対効果に関する投資家からの質問に直面し、結果が失望しても実装に「ポット・コミット」されたままになる。「CEOであれば」Dharは述べた、「すべての投資家から、ウォール街から質問をされている。『なぁ、そもそも貴社のAI戦略は何なのか、そして投資対効果を示しているのか。貴社はこれすべてのお金を支出している』」。Hamiltonが警告するリスクは「サービス次元のスムージング」であり、ここで「誰もが業界を問わず同じAIコールセンターを持つようになる」ということである。

著者が数ヶ月にわたってFedEx、バイク小売業者、その他の機関と闘った経験は、複雑な問題に対応する適切なインフラなしに、AIチャットボットが顧客サービスに広範に配置されている現状を露呈させている。4月に発表された顧客サービスリーダー向け調査では、31パーセントがすでにAI導入に伴い人員削減を行ったか計画中であると述べており、このシフトが少数企業に限定されていないことを示唆している。この戦略は、研究者が「スラッジ」と呼ぶ業界的戦術を反映しており、それは顧客が問題解決を求めることを意図的に阻害するために設計されているもので、もっともらしく聞こえるが最終的には役に立たない自動化反応を生成するAIの能力によって増幅されている。

専門家は、このAI実装の波を部分的に投資家からのプレッシャーと企業の楽観論に帰しているとしている。イェール大学カスタマーインサイトセンター長のRavi Dharは、没コスト効果が働いていると示唆している。グローバルAI支出が急増する中で、経営陣は実装にロックイン（「ポット・コミット」）される形となり、AI戦略と投資対効果に関する投資家からの質問を受けることになる。エモリー大学マーケティング教授のRyan Hamiltonは、一部の企業リーダーはコスト削減と貧弱な顧客体験の間にあるトレードオフを意識的に受け入れている一方で、多くの企業はAIツールが時間とともに改善されることに賭けていると指摘しており、これは企業評判を傷つけた場合は逆効果になる可能性がある。著者の経験は、組織が責任を一つに集約せず、複数のチャットボット経由の異議唱えが失敗するという状況を示唆しており、「サービス次元がスムーズ化された」ことによるリスク、つまり「すべての業界にわたってすべての人が同じAIコールセンターを持つようになる」可能性を示している。