OpenAI社員がChatGPT会話を閲覧

404 Mediaの調査によると、OpenAIの人的レビュー体制はCrossing Hurdles経由で採用し、AI訓練企業Mercorを通じて支払う契約ワーカーに依存している。レビュアーはChatGPTの応答を1〜7段階で評価し、過度なお世辞や人間らしい振る舞いを減らすよう求められており、これは自由な観察ではなく特定の品質管理業務であることを示す。あるレビュアーは404 Mediaに、ユーザーが人間がチャットを読んでいると知らないだろうと語り、レビューされたプロンプトがそれを裏付けている。会話にはユーザーがChatGPTに内容を非公開に保つよう明示的に求めたものもあった。プロンプトは匿名化されているが、機密性の高い個人データを含む可能性は残り、OpenAIのプライバシーフィルターも誤りを犯し得ると認めている。

この開示は少なくとも2023年からオンラインにある埋もれたFAQにあり、ほとんど変わっていない。OpenAIは入力データをモデル訓練に使わない一時チャットモードも提供しており、ユーザーはデフォルトで有効な「すべての人のためにモデルを改善」設定をオフにすれば、チャットが訓練に使われ、人間に読まれる可能性を止められる。この設定は新規会話にしか適用されず、古いチャットの扱いは不明確なままだ。AnthropicとGoogleも人的レビュアーを使っているため、この慣行はOpenAIにとどまらない。

焦点は、ユーザーが埋もれたFAQを十分な通知とみなすか、そして何人がデフォルト設定をオフにするかにかかっている。オプトアウト率は、人的レビューがモデル改善の通常業務として受け入れられるのか、プライバシー侵害と見なされるのかを示す最も明確なシグナルになりそうだ。