何が起きたか
OpenAIは再帰的自己改善を含むフロンティアAIの国際技術標準の提案を公表し、米国が主導すべきだと述べた。
なぜ重要か
共通標準があれば、評価や報告の規則が対立して証拠の比較や国境を越えるリスクへの対応が難しくなる事態を防げるとOpenAIは言う。
注目点
政府やラボが共通の測定・インシデント報告の枠組みを採用するかが鍵。OpenAIは今後の米中協議を好機と指摘する。
誰に効くか最も直接的な影響を受けるのは、AIラボのコンプライアンス・安全担当チーム、各国のAI安全研究所、規制リスクを評価する企業のAI導入担当者だ。標準化団体やオープンウェイトの開発者も、モデルの評価・報告方法が変わる可能性があるが、この提案に拘束力はない。
こういう要約が、毎朝あなたのメールに届きます。
OpenAIの提案は、高度なAIを進める上での3つの目標（自動化されたAI研究者の構築、科学的・経済的利益の実現、個人にパーソナルAGIを届けること）を以前に表明したことに続くものだ。同社は、完全に自律的な再帰的自己改善は現在起きておらず、安全に実施できるのでなければ追求すべきではないとし、開示したHugging Faceのインシデントを、安全策がなければ悪化しうるリスクの予兆として挙げている。
標準化の推進は既存の制度を土台にする。OpenAIはCenter for AI Standards and Innovation（CAISI）、州法、連邦の枠組みを有用だと指摘し、米国が2024年にInternational Network for Advanced AI Measurement, Evaluation, and Scienceの創設を支援し、測定と評価で協力してきたと述べている。また、ISO、Frontier Model Forum、Agentic AI Foundation、Open Secure AI Allianceなどの標準化団体をパートナーとして挙げている。
核心的な緊張は、国家の権限と国境を越えた調整の間にある。OpenAIは、米国主導の取り組みなら分断され不均一で対立の多い体系を避けつつ、各国政府が望む形で標準を採用する自由も残せると主張する。他の国やラボが共通の測定・インシデント報告の枠組みを受け入れるか、今後の米中協議が協力につながるかが、このアプローチが支持を得られるかを左右する。
たとえば、いま届くならこの3本です
AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。Q&Aはこのページに公開され、他の読者も読めます。
トランプ氏はAI開発の減速論を退け「AI Force」を発足させた
ブリストル大学の研究者が「Learning Ensemble」枠組みを提案
カリフォルニア州のギャビン・ニューサム知事が、第三者によるAI安全監督と独立監査を迅速化する大統領令…ではなく知事令に署名した
スコット・ベッセント米財務長官は、米中AI対話に関する協議が始まったと述べた
MIT Technology ReviewがTimes of San Diegoと1年調査し、Anduril製AI監視塔付近で1,050人超の死亡を確認
国連のAIに関する独立国際科学パネルが初のテーマ別報告書を公表し、今年のOpenAIによるHugging Faceへのハッキングを受け、AIの安全性と説明責任への注目・資源・国際協調の強化を求めた
