Anthropic、強力なAIモデルが内部取引で優位に立つことを実証 — より弱いAIを使う従業員は損をしても気づかない

Anthropic が 69 個の AI エージェント（自分で判断して作業する AI）を使い、従業員に代わって社内マーケットプレイスで 1 週間の取引を行わせた。より性能の高いモデルが明らかに有利な取引を成立させた。

弱いモデルを使わされた従業員たちは、自分たちが不利な取引をしていることに気づかなかった。つまり、AI が人間の判断なしに取引を決めると、性能の差が損得格差に直結し、被害者側が損失に気づきにくいということが判明した。

AI が今後、銀行口座の移動、給与管理、買い物、ローン申し込みなど実際のお金を動かす取引を人間に代わってやり始めたら、こうした格差がすでにある経済的な不平等をさらに悪化させる可能性がある。性能の低い AI を使う人ほど、自分が気づかないうちに損し続ける危険性がある。