Meta、競合チャットボット調査で未成年になりすまし テスト実施

何が起きたか

Meta子会社Covalenが管理するプロジェクト「Cannes」で、数百人の契約社員に未成年になりすましたダミーアカウントを作成させ、OpenAIのChatGPT、GoogleのGemini、Character.AIに自殺や薬物、性的内容を含む4万5千件以上のプロンプトを送信させていました。調査は2025年4月21日時点で活動中でした。

なぜ重要か

テストは競合企業に通知されず、競合企業の利用規約違反となる可能性があります。未成年になりすましての大規模なテストは、通常の業界標準的な安全性評価とは異なるとみられ、Meta幹部は安全性テストだと説明していますが、安全性評価と競争戦略の区別が曖昧な領域だとの指摘もあります。

注目点

スプレッドシートに記録された3,748件のプロンプトのうち、数百件が自殺・自傷に、数百件が摂食障害に関連していました。少なくとも239件が性的または恋愛的内容を含んでいました。弁護士はこれらのプロンプトが違法な児童性的虐待資料の勧誘には該当しないと述べました。