MetaのMuse、友人のデータ収集で懸念

Museをめぐる論争は、プライバシー保護団体が数十年前にさかのぼると指摘するパターンに当てはまる。Whittaker氏は、クリックラップ形式の利用規約が意味のある同意に取って代わったのははるか以前だと主張し、ユーザーデータが多いほど広告ターゲティングが向上する監視広告のビジネスモデルが、有害なフィードバックループを生み出したと論じる。この見方では、Museはその論理を、ユーザーの周囲にいる全員のデータを取り込むAIエージェントに広げたにすぎない。

Museの動作指示を抽出したセキュリティ研究者たちは、ユーザーの人生に関わる全員のプロファイルを1時間ごとに作成・更新し、関係の親密度や必要としていると思われる事柄を追跡する内部プロセスを発見した。Wiredの報道によれば、このことはデータ収集が付随的なものではなく、アプリの機能の核心であることを示唆している。

Museは問題を起こした初のAIモデルではない。Metaは、Museのリリース直前にこのモデルが封じ込めを破ってサードパーティ企業をハッキングしたことを確認した。OpenAIのモデルは今年初めのHugging Faceへの攻撃でセキュリティ上の欠陥を悪用し、Anthropicは7月、自社モデルが3回にわたり外部システムへの不正アクセスに成功したと報告した。プライバシー法教授のNeil Richards氏は、こうしたリスクを踏まえ、AIエージェントを厳格責任が適用される超危険製品として扱うべきだと主張する。