Meta、ChatGPTなど競合AIを未成年視点で大規模テスト 45000件以上のプロンプト送信

何が起きたか

Metaの委託業者が、ChatGPT・Gemini・Character.AIに対して未成年になりすまして自殺や薬物に関するプロンプトを送信していました。2025年8月の1回のテストで45000件以上のプロンプトが送られ、データはスプレッドシートに記録されました。このプロジェクト「Cannes」は少なくとも2026年4月まで続いていたとWIREDが報じています。

なぜ重要か

未成年とAIチャットボットの危険性がますます懸念される中での出来事です。英Internet Mattersの調査では9～17歳の64%がAIチャットボットを利用済みで、9～12歳の58%が最低年齢要件13歳を下回る年代なのに使用しています。また14歳のCharacter.AIユーザーが自殺し、16歳のOpenAI訴訟や23歳のZane Shamklin氏の事例など、複数の死亡事例がAIチャットボットに関連付けられており、各企業の安全性対応が問われています。

注目点

テストを受けた企業の反応が分かれています。Character.AIは利用規約違反と指摘し、OpenAIは調査中、Googleは事前承認していないと述べています。テスト対象企業はMetaの計画を知らされていませんでした。また、Metaは収集したデータが自社AIモデル学習に使われていないと主張していますが、WIREDが確認した資料には実際の用途が記載されていません。