OpenAIがティーン向けChatGPTを立ち上げた。
組み込みのスタディモード、宿題リマインダー、保護者向けコントロールを備え、迅速な回答よりも学習を促進し、有害なコンテンツへの露出を削減するように設計されている。
このプロダクトは、ChatGPTが900 million週間ユーザーを蓄積した後、ティーン固有のセーフガードなしで登場し、チャットボットをメンタルヘルスの害と教室でのカンニングに関連付ける訴訟への対応として来た。
何が起きたか
OpenAIは月曜日にティーン向けChatGPTを発表し、ガイダンス質問と段階的なサポートを提供するスタディモード機能、カンニング防止を目的とした宿題リマインダー、クイズ、学習ビジュアライゼーション、および保護者向けコントロールを導入した。年齢に適した保護機能がデフォルトで有効化され、有害または発達段階に不適切なコンテンツへの露出を削減する。
なぜ重要か
この立ち上げは、ChatGPTが900 million週間ユーザーに達してから（2022年後期に初登場）数年後のことであり、ティーン自殺やメンタルヘルスに関する懸念に関連したチャットボットの安全対策不足をめぐる多くの訴訟の後である。この動きはOpenAIが安全性のギャップと学校におけるChatGPT利用によるカンニング教育危機の両方に対処しようとしていることを示している。
注目点
これらのガードレールの実際の有効性は依然として不確実である。ティーンエイジャーは通常、保護者向けコントロールやデジタルロックを回避することに長けており、ティーンモードが厳密なテストを受けるまで、実際には安全対策がどの程度回避困難であるかは明確でない。
OpenAIのティーン向けChatGPTは、プラットフォームの年齢に適したデザインの欠如に関する長年の懸念への遅延対応を表している。チャットボットは、未成年者に特別に調整されたガードレールなしで900 million週間ユーザーを達成し、このギャップは、ツールをティーンのメンタルヘルス危機と自殺に関連付ける訴訟が出現したにつれてますます問題になった。同社はまた、学生がChatGPTを使用して問題解決に完全に従事するのではなく学習を回避した教室でのカンニングについての批判にも直面した。
新しいプロダクトバンドル—スタディモード、宿題検出、保護者向けコントロール、およびOpenAIの18歳未満の原則に基づくコンテンツフィルタリング—は、単一の提供で安全性と教育的悪用の両方に対処しようとしている。OpenAIのフレーミングは発達科学と専門家のガイダンスを強調し、同社が研究者からのフィードバックを組み込んでいることを示唆している。しかし、記事自体は批判的な未知数を提起している。デジタルコントロールを回避することで歴史的に熟練しているティーンが、これらの保護を無効化または回避することが容易かどうかである。「厳密な」条件下でのリアルワールドテストなしでは、これらのセーフガードの実際の耐久性は推測のままである。
AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。
登録無料・30秒で完了・いつでも解除できます
この記事についてわからないことをAIに質問できます。Q&Aはこのページに公開され、他の読者も読めます。
AI企業 Anthropic が月末までのIPO申請を目指しており、非公開の経営幹部らは SpaceX が6月に調達した750億ドル（オーバーアロットメント・オプション実行時は862億ドル）を上回る資金調達を望んでいます
企業向けクレジットカード・経費管理サービスのRampのデータから、OpenAIが米企業ユーザーの市場シェアでAnthropicに追い上げていることが判明しました
OpenAIがChatGPT向けApple Messagesプラグインを公開し、ユーザーがMessagesの受信箱をチャットボットに接続できるようになった
