ロボットやAIシステムが人物を誤認識する問題が急増 — 倉庫作業者が別人と認識される、顧客情報を間違える事態が発生

倉庫管理ロボットや受付AI、配送システムなどが顔認識で人物を特定する際、実在しない人物や間違った人物を認識する『幻覚（ハルシネーション）』の問題が顕在化している。ロボットが作業者Aを別人Bとして追跡したり、顧客プロフィールを誤ったまま営業担当者に提示するケースが報告されている。

このエラーは、AIが学習データにない顔パターンを見たとき、存在しない『もっともらしい』顔や身元情報を生成して埋めてしまう仕組みが原因。特に大規模な自動化システムが複数のAIモデルを組み合わせるほど、誤認識が増幅される傾向がある。

倉庫・流通・小売・カスタマーサービス業界で働く従業員や顧客は、自分の個人情報や行動記録が別人のものと混同される可能性が高まっており、プライバシー侵害や不正アクセスのリスクが増加している。特に顔認識システムを入退管理や勤務追跡に使う企業では、給与計算や休暇管理の誤りも起こりうる。