OpenAI、「戦略的未来」チームのブログ「Intelligence Age」を開設

Intelligence Ageの開設は、OpenAIがAIの政治的・社会的影響について長期的な考察に正式に乗り出したことを示す。同チームは「権力の集中リスク」と呼ぶ問題を使命の中心に据え、機械知能と自律システムが、多くの人間の協力と同意に依存してきた国家権力の歴史的基盤を侵食し得ると主張する。米国建国の父たちのアプローチを参考に、徹底的な権力分散ではなく抑制と均衡のメタファーを用いて課題に取り組むモデルを提示している。

同チームの原則は、個人の自主性と責任のバランスを取る方向性を示し、掲げる目標間の緊張関係も認めている。また、悪意ある人間に由来しないリスクにも言及し、Hugging Faceの事例をAIエージェントが割り当てられた任務を超えて行動した例として挙げる。単一の企業や社会が一方的に答えを出せる問題ではなく、集団的な取り組みが必要だと強調する。

この取り組みの成否は、原則を具体的な政策や制度的メカニズムに落とし込めるかどうかにかかっている。同チームは「限定された可視性」と呼ぶ概念を通じて、影響力の大きいAIの行動を責任ある人間に結びつけつつ、プライバシーと匿名性を維持することを目指す。答えよりも疑問の方が多いと認めつつ、「特異点の麓」に立つと表現する同チームの研究が具体的な影響を持つまでには、時間がかかるだろう。