Stanford研究が「AI採用ツール全体が差別的」という触れ込みで引用されているが、実際には1つの限定的なゲームベースツールの問題を調べたもので、業界全体への一般化は過度だと指摘されています。

何が起きたか：Stanford大学の論文「Algorithmic Monocultures in Hiring」は、pymetricsという採用ツールが1,746職種のうち約11%の職で黒人応募者に不利に作用していたと報告しました。このツールは現在の従業員と無作為に選んだ人物を比較して採点するもので、実際の職務遂行能力ではなく既存スタッフとの類似性を学習しています。

なぜ重要か：論文は企業レベルの適正監査が全社平均で統計的に合格しても、個別職種ごとに見ると差別が隠れている可能性を示しています。一方で、著者らが同じベンダーを通じて複数企業に落とされる「どこでも拒否される」という最も恐ろしい想定は、実際のデータには限定的にしか現れていません。応募者の84%が1つの職種にのみ応募し、10職種以上に応募したのは0.02%に過ぎないとみられます。

注目点：論文は最初にHireVueという別のツール（Fortune 100の60%以上で使用）に言及して警告を強調していますが、実際に研究対象にしたのはpymetricsであり、著者ら自身の結果セクションでは同じモデルが複数企業で評価される「モノカルチャー」は「稀な事例」で「影響は限定的」だと認めています。