ChatGPTを信じ店員の警告無視

苦情は一つのレストランや業界にとどまらない。ChatGPTを信じた甲殻類アレルギーの客に対するMadisonの経験は、地図を指しても懐疑的なグループを見たリバーレンジャーや、生徒の保護者がチャットボットの睡眠スケジュールは問題ないと主張した放課後教師の話とも重なる。飲食業15年のLauren Wilfordは、客がメニュー写真をチャットボットに送ってワインの pairing を尋ねる段階から、エージェントがユーザーに代わって電話やメールで予約する段階への移行を語る。

これらの証言に共通するのは、チャットボットの答えが目の前の人間より信頼されることだ。Madisonと同僚は、ボットがワインのブランドをでっち上げたと言う代わりに、ワインリストが異常に細かいと伝えるなど、訂正を和らげるようになった。レンジャーのJasonも同じ壁を語る。地図と印刷されたガイドブックを見せても、一部のグループは懐疑的だった。

リスクが最も高いのは、だしのアレルゲンや子どもの睡眠など安全やケアに関わる情報だろう。この傾向が和らぐか深まるかは、次世代AIエージェントの振る舞い次第かもしれない。Wilfordは、イベント直前に届いた要求の多い依頼を送ったのは人間ではなくエージェントだと既に疑っている。