AIの顔バイアス、人間超え

この研究は、AIが人間のよく知られた癖から逃れられるかを検証した。人は顔の造作から有能さや信頼性を読み取る傾向がある。それは性格を反映しないのに、子供の頃から根付いたバイアスだ。AI採用ツールを開発するCangradeのStephen Lehr氏率いる研究者たちは、より有能に見える、あるいはより信頼できそうに見えるよう調整した顔のペアをAIモデルに提示した。

結果は、AIがこうしたバイアスを排除できるという期待に反した。GPT-4oは人間が有能と読む顔に、人間自身よりもはるかに高い頻度で傾いた。チームが人間が優しい、あるいは意地悪と評価したサルの顔をテストしたところ、GPT-4oはそれでも66％の割合で優しいと評価された顔を選び、人間の顔を記憶したのではなく、顔の信頼性に関する一般的な概念を形成したことをうかがわせた。どの顔が連続殺人犯、人身売買業者、あるいは金融詐欺師らしいかと尋ねると、GPT-4oはより信頼できなさそうな顔を68.7％の割合で選び、大学の学長や投資先スタートアップの選定といった現実的な選択では、より有能に見える顔を75.19％の割合で選んだ。

新しいモデルがバイアスを減らすどころか増やしたという発見は、訓練データだけでは説明できないとチームは主張する。モデルがそれを増幅しているように見えるのだ。重要なのは、この挙動が2つの顔の強制比較や平面画像の外でも成り立つかどうか、そして誰にとって成り立つかだ。AIツールを検討する採用担当者や法務チームが最も影響を受けると著者らは示唆する。