AI「従業員」と呼ぶと人間が失敗する

何が起きたか

Microsoft、OpenAI、Anthropic、Googleが最近、AIエージェント（自分で判断して作業するAI）を管理するための新しいツールをリリースしました。これらのツールの多くは、「デジタル同僚」として実際の人間と同じ柔軟性と認知能力を持つものとして明示的に宣伝されており、調査対象の1,261人のマネージャーのうち23%はAIエージェントを組織図に記載しているほどです。

なぜ重要か

Boston University の研究者Emma Wilesが実施した研究によると、AIエージェントを「従業員」として扱うことは逆効果です。チャットボットではなく「AI従業員」からの作業として提示された場合、参加者はエラー検出を18%少なく行いました。さらに人々は、questionableな作業をAIエージェントの責任ではなく自分自身の責任と見なさず、44%の確率でマネージャーに判断を委ねるようになり、AIエージェント使用の時間短縮という本来の目的が失われています。

注目点

Stanford大学の研究では、104職種の1,500人の労働者に対してAIが担当可能な業務について情報提供し、実際に有用と考えられる業務を問いました。技術専門家が最適と判断したタスク（例えば営業担当者の顧客信用度検証）も、実際の労働者は不要と答えており、AIとの協働設計には現場の声が不可欠であることが示されています。