Metaが委託業者を通じて、ChatGPTやGemini、Character.AIといった競合チャットボットに対して、未成年になりすまして危機的な内容のプロンプトを送信するテストを実施していました。2025年8月だけで45000件以上のプロンプトが送られ、少なくとも2026年4月まで続いていたと報じられています。未成年によるAIチャットボット利用の増加と複数の死亡事例が背景にあるとみられ、安全性テストは業界標準と主張するMetaに対して、テスト対象の企業からは批判の声が上がっています。
こういう要約が、毎朝あなたのメールに届きます。
無料で登録 →何が起きたか
Metaの委託業者が、ChatGPT・Gemini・Character.AIに対して未成年になりすまして自殺や薬物に関するプロンプトを送信していました。2025年8月の1回のテストで45000件以上のプロンプトが送られ、データはスプレッドシートに記録されました。このプロジェクト「Cannes」は少なくとも2026年4月まで続いていたとWIREDが報じています。
なぜ重要か
未成年とAIチャットボットの危険性がますます懸念される中での出来事です。英Internet Mattersの調査では9～17歳の64%がAIチャットボットを利用済みで、9～12歳の58%が最低年齢要件13歳を下回る年代なのに使用しています。また14歳のCharacter.AIユーザーが自殺し、16歳のOpenAI訴訟や23歳のZane Shamklin氏の事例など、複数の死亡事例がAIチャットボットに関連付けられており、各企業の安全性対応が問われています。
注目点
テストを受けた企業の反応が分かれています。Character.AIは利用規約違反と指摘し、OpenAIは調査中、Googleは事前承認していないと述べています。テスト対象企業はMetaの計画を知らされていませんでした。また、Metaは収集したデータが自社AIモデル学習に使われていないと主張していますが、WIREDが確認した資料には実際の用途が記載されていません。
まだコメントがありません。最初のコメントを投稿しましょう！
ログインして議論に参加200以上のソースから厳選したAIニュースを毎日無料でお届けします。
無料で始める登録無料・30秒で完了・いつでも解除できます
毎朝1分、AIの要点だけ。
200媒体以上・Email/LINE/Slack 対応
