何が起きたか
Common Sense Mediaは10月7日、OpenAIの13～17歳向け「ChatGPT for Teens」を「Unacceptable Risk」と評価し、18歳以上に利用制限を求めた。
なぜ重要か
同団体は、保護者への通知機能や安全対策が十分に機能していないにもかかわらず、保護者に誤った安心感を与える恐れがあると警告している。
誰に効くか13～17歳の子どもにChatGPTを使わせる家庭の保護者と、教育現場でAI利用のルールづくりを担う学校関係者に影響が及ぶ。安全機能が実際には頻繁に機能していない可能性があり、保護者の安心感が誤って形成されるおそれがある。
こういう要約が、毎朝あなたのメールに届きます。
Common Sense Media傘下のYouth AI Safety Instituteは、ChatGPT for Teensの発表前後に13～17歳として登録したアカウントで4000件以上のプロンプトを使って検証し、児童精神科医や小児科医などの専門家も評価に参加した。性的なロールプレイを拒否する機能などは有効だった一方、OpenAIが約束した安全対策の一部は十分に機能していなかったという。
OpenAIは同日、公式ブログでChatGPT for Teensの初期利用実績を紹介し、提供対象の10代ユーザーはまだ利用できないユーザーと比べて学習関連のメッセージを平均約270万件多く送信していたことや、1週間で約120万人がLearning Visualizationsを、18万人以上がStudy Modeを利用したことを明らかにした。また、米国の高校生向けに大学出願を支援するCollege Plannerを近日中に導入するほか、ノートから暗記カードやクイズを作成する機能も拡充する。安全対策では米ボストン小児病院のDigital Wellness Labとその学生諮問委員会を今後3年間支援する計画を示した。
Common Sense MediaのXへの投稿とOpenAIの投稿は約2時間の間隔で、両者の発表が近接した理由は不明だが、OpenAIのブログにはCommon Sense Mediaの評価に対する直接の反論や、指摘された問題への具体的な説明は含まれていない。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
Mastercardは、AIエージェントがユーザーに代わって取引する際の本人確認の課題に対応している
GoogleはGmail、Docs、Drive、Sheets、Slack、Microsoft 365と連携し、コード作成・実行や画像・メディア生成もできる「ユニバーサルエージェント」Geminiを公開した
NvidiaとPalantirが提携し、世界で最も複雑とされるサプライチェーンに主権AIを導入する構えだ
AmazonがAIエージェントによる自サイトでの買い物を禁止
American Expressは、米消費者の3分の2が価格比較にAIツールを使い、調査した502人の企業幹部の83%がエージェント型コマースを機会と見る一方、試験導入・統合は41%にとどまると助言した
