Copilot画像アップロードに人手レビュー

Copilotの画像編集機能は、すでに多くの自動品質チェックを必要とする。ユーザーは写真をアップロードし、背景の人物を消す、服装を変えるといった変更を求める。編集が指示に従っているか、触れていない部分をそのままにしているか、歪みを避けているかを判断するのは細やかな判断であり、Microsoftはその評価に人の判断を持ち込んだ。

404 Mediaによると、この仕組みは元のプロンプト、元画像、2つの編集出力を並べてレビュアーの前に提示する。それらの画像の一部は顔にぼかしが入っておらず、多くのプロンプトがスカートを短くする、人物を性的なポーズに変えるなど性的な編集を求めており、レビュアーは業務上センシティブな素材に遭遇していた。

Microsoftは人がCopilotの会話を見る可能性があることを隠していない。プライバシーFAQには、一部の会話が製品改善と安全のため自動処理および人手によるレビューの対象となり、訓練を受けたAI専門家が確認する場合があると記載され、アップロードされた画像やファイルも同じように扱われると説明されている。この公表された枠組みが今後の展開の基準になりそうだ。争点は人手レビューの有無よりも、ユーザーがそれをどこまで広く理解しているかに見えるからだ。