AI生成キャラクターを使った偽の黒人起業家が、TikTokやInstagramでドロップシッピング商品を販売するスキャムが横行

Aliyahという名前のAI生成キャラクターを含む数十のアカウントが、TikTok、Facebook、Instagramで金属バックル、マグカップ、かぎ編みバッグ、カーディガンなどの商品をドロップシッピングで販売しており、これらの商品の多くはFastファッションサイトのSheinで安い価格で販売されている同一商品。Aliyahのアカウントだけで40,000人のフォロワーを持ち、最も人気のあるビデオは814,000のいいね、6.5 million views、約30,000のコメントを獲得。

研究者Jeremy Carrascoは、ビデオの顔から自動化されたコメント応答まで、アカウントのほぼすべての側面がAI生成されていると述べており、一部の応答はアフリカ系アメリカ人の言語遣いを模倣しようとしている。Carrascoの調査チームは、AI生成アバターで製品を販売しようとするアカウントを1日あたり最大100件見つけていると推定。

通信研究者Cienna Davisは、これらのビデオを「デジタルブラックフェイス」と説明し、非黒人が黒人の文化的表現を個人的、経済的、政治的利益のために模倣する現象と指摘。哲学者Tempest M. Henningは、アバターの名前が「Aliyah」や「Amaya」といった黒人のコード化された名前であるにもかかわらず、本物の黒人らしさを示すものは他にないと述べている。