Meta傘下の契約企業が、未成年になりすましたアカウントを使用して競合チャットボットを対象とした大規模なテストを実施していました。4万5千件以上のプロンプトが送信され、競合企業には通知されていません。Meta側は安全性テストとして正当化していますが、透明性の欠如と規約違反の可能性から、業界基準の評価方法と異なるとの批判が出ています。
こういう要約が、毎朝あなたのメールに届きます。
無料で登録 →何が起きたか
Meta子会社Covalenが管理するプロジェクト「Cannes」で、数百人の契約社員に未成年になりすましたダミーアカウントを作成させ、OpenAIのChatGPT、GoogleのGemini、Character.AIに自殺や薬物、性的内容を含む4万5千件以上のプロンプトを送信させていました。調査は2025年4月21日時点で活動中でした。
なぜ重要か
テストは競合企業に通知されず、競合企業の利用規約違反となる可能性があります。未成年になりすましての大規模なテストは、通常の業界標準的な安全性評価とは異なるとみられ、Meta幹部は安全性テストだと説明していますが、安全性評価と競争戦略の区別が曖昧な領域だとの指摘もあります。
注目点
スプレッドシートに記録された3,748件のプロンプトのうち、数百件が自殺・自傷に、数百件が摂食障害に関連していました。少なくとも239件が性的または恋愛的内容を含んでいました。弁護士はこれらのプロンプトが違法な児童性的虐待資料の勧誘には該当しないと述べました。
まだコメントがありません。最初のコメントを投稿しましょう！
ログインして議論に参加200以上のソースから厳選したAIニュースを毎日無料でお届けします。
無料で始める登録無料・30秒で完了・いつでも解除できます
毎朝1分、AIの要点だけ。
200媒体以上・Email/LINE/Slack 対応
