AI訓練員がChatGPT使用、モデル品質低下の懸念

何が起きたか

AI企業から仕事を請け負う訓練員らが、本来は禁止されているChatGPTなどの生成AIを使ってAIモデル訓練用の高品質データ作成業務をこなしていることを、複数の内部告発者がNew Scientistに明かしました。訓練員らは検出困難な方法でAIの出力特性を隠し、摘発を回避しているとのことです。

なぜ重要か

バーミンガム大学のMark Leeによると、AIが生成したコンテンツで繰り返し訓練されると、モデルが「崩壊」してアビリティが著しく低下し、人間らしいタスク実行性能が落ちる可能性があるとみられます。低賃金で雇用の不安定な訓練員が手抜きをする動機として、AI企業の給与・雇用条件が招いている構造的な問題とも言えます。

注目点

訓練員らは、企業による監視ツール（Outlierではコンピュータ画面定期撮影のHubstaffなど）の目をすり抜けるため、AIモデルをタスクバーに最小化して隠すなど巧妙な手口を使っており、企業側が違反者を完全に摘発できていない状況が浮き彫りになっています。