
何が起きたか
パリ平和フォーラムでOpenAIは「AI時代の児童の権利と保護のための連合」傘下の研究ネットワークに200万ドルを拠出し、児童向け安全AIのための関与憲章に署名した。
なぜ重要か
憲章には独立性を保障する研究プログラムが含まれ、研究チームが結論の管理権を保持し、否定的・結論不明な結果でも公表されるため、安全に関する証拠の信頼性が高まる可能性がある。
誰に効くか児童安全の研究者や研究ネットワークは資金と共通の測定プログラムを得る一方、AI企業の製品・政策チームは年齢に応じた安全策を設計するための共通原則を得る。
こういう要約が、毎朝あなたのメールに届きます。
この約束はパリ平和フォーラムで表明された。OpenAIは意図表明の声明を出すだけでなく、「児童向け安全AIのための関与憲章」に名を連ねた。200万ドルは「AI時代の児童の権利と保護のための連合」傘下の科学研究ネットワークに充てられ、OpenAIはこの資金を共通の測定作業への支援と位置づけている。研究者がAIの児童に対するリスクと機会をよりよく理解し測定するためのツールである。
ここで重要なのは憲章の設計だ。研究プログラムと並んで独立性の保障が定められており、研究チームは結論の管理権を保持し、否定的または結論不明な結果であっても知見を公表することになっている。この構造は、証拠を宣伝ではなく製品設計と政策の両方に使える形で保つことを狙ったものとみられる。
OpenAIはこれを、若年層向けAI安全の国際基準を求める従来の訴えや、若年層向けAI安全法案への支持と結びつけている。同法案には年齢に応じた安全策のデフォルト適用、保護者向けツール、定期的なリスク評価、実効性のある説明責任が含まれるべきだとしている。政策面では、EU Kids Actの策定が進む中で欧州の政策担当者や世界中のパートナーと関わっていくことを楽しみにしていると述べている。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る
Docker Composeの閉鎖ラボでLlama 3.1 8Bエージェントは約5.7秒でOpenCanaryハニーポットに到達したが、ダミー認証情報12個のファイルサーバーには触れず発見数は12個中0個だった

Semafor主催「Silicon Valley & The World」で英AI相Kanishka Narayan氏は規模と資本で米中は「根本的に別格」と述べ、両国をプレミアリーグ、英国をチャンピオンシップに例えた

Microsoft Ignite後の円卓会議でSatya Nadella CEOは政治経済について「AGIに開眼した」と述べ、単一のAIモデルが支配的になれば民主主義が終わり得ると警告した

VisaのMichael Jabbara氏がFox BusinessでAIによる決済脅威の急増を警告した

日立製作所は「Public Biometric Infrastructure」を基盤とする「Proof of Human Delegation」を開発した

環境省は廃棄物選別にフィジカルAIを導入する官民コンソーシアムを設立する
