Meta、競合チャットボット調査で未成年になりすまし テスト実施

要点

• Meta傘下の契約企業が、未成年になりすましたアカウントを使用して競合チャットボットを対象とした大規模なテストを実施していました。

• 4万5千件以上のプロンプトが送信され、競合企業には通知されていません。

• Meta側は安全性テストとして正当化していますが、透明性の欠如と規約違反の可能性から、業界基準の評価方法と異なるとの批判が出ています。

3つのポイント

よくある質問

どんなプロンプトが送信されていたのですか？

自殺や自傷行為、摂食障害、性的内容、薬物に関する数千件のプロンプトが、子どもや十代の視点から書かれていました。例えば、妊娠中絶薬の購入方法や違法な物質の入手方法を聞くような内容が含まれていました。

競合企業は許可を与えていたのですか？

いいえ。OpenAI、Google、Character.AIのいずれも事前に許可を与えておらず、テストについて知らされていませんでした。各社とも、この行為が利用規約違反にあたると述べています。

プロンプトに違法な内容は含まれていたのですか？

弁護士が確認したプロンプト見本は児童性的虐待資料の勧誘や違法な猥褻性には該当しないと判定されました。ただし、内容の不適切性に対する懸念は残っています。