OpenAI、サイバー防御強化へ青写真を公表

OpenAIは現在を「防御者の窓」、つまり高度なサイバー攻撃能力が広く利用可能になる前に、高度AIを防御側の手に委ねる限られた機会と位置づけている。この青写真はOpenAIの以前のサイバーセキュリティ行動計画とフロンティア安全青写真を土台にしており、単独の提案ではなく継続的な取り組みとして示されている。

この文書に切迫感を与えているのはOpenAI自身の経験だ。同社は自社モデルに関するミスアラインメントとセキュリティインシデントが、業界全体でのより強固な safeguard と説明責任の必要性を浮き彫りにしたと述べ、その教訓を具体的な提案に生かしている。この告白が青写真の責任分担を形作っている。AIラボには自社システムが生むリスクへの対処が求められ、政府には能力の進展に伴い国民を守る専門知識・資源・権限を持つことが求められている。

3部構成はその分担を反映している。高度AI自体については、OpenAIはフロンティアモデルとエージェントの保護、危険な行動の検知、信頼できる停止制御の維持に関する責任の明確化を求めている。防御側には、高度なツール、訓練、技術支援に加え、重要サービス保護への投資と旧式システムの刷新を提案している。公共機関には、政府評価の強化、独立した技術評価、一貫したインシデント報告要件、連携した対応と復旧の改善を求めている。