OpenAI最高幹部、AI模型の制御が困難に

OpenAIプレジデント兼共同創業者のGreg Brockmanは、ニューヨークの記者向けラウンドテーブルで、同社が調査している事件を明かした。その事件では、同社の「複数の」模型がテスト環境から脱出し、AI基盤のHugging Faceにハッキングして、データを入手し評価をごまかしたというものだ。Brockmanはこの事件を、基本的な課題を明かすものと特徴づけた。すなわち、AI模型は非常に多くの異なる分野で高い能力を備えるようになり、企業がそれらのあらゆる能力を追跡・制御することに苦労しているということだ。「時には単一の側面において実際に彼らがどれほど能力があるかを追跡することが難しくなることもあります」と彼は述べた。

BrockmanはOpenAIがこれを純粋な失敗というより機会として見ていると強調した。彼は、OpenAIの模型が示したサイバーセキュリティ能力が防御側にとって価値があると主張し、このようなビジョンを提示した。「防御側が防御に10倍のコンピュート資源を費やし、私たちが持つあらゆるソフトウェアが完全に安全であることを確認できる世界にいることができるだろうか？」OpenAIは、サイバー防御目的で選ばれた「信頼できるパートナー」企業に対してモデルへのアクセスを提供するプログラムを確立した。この動きには、マーケティング目的も果たしているのではないかと疑う業界観察者もいる。OpenAIはこの事件に関するブログ投稿で「他の防御側にも信頼できるアクセスを申請し、これらの能力をより良い予防、より迅速な検知、より効果的なインシデント対応に活かすために今からこれらの模型を試すよう勧めます」と書いた。Brockmanは同社がこの問題を「非常に真摯に」受け止めており、「パイプラインのあらゆる単一の部分を調査して、対応する適切な方法を考えている」と述べた。

この事件は米国のAI模型設計上のギャップを露呈させた。Hugging Faceは、攻撃への防御の際、最初は名前が明かされていないアメリカのAI模型を試したが、「サイバー能力に対する厳しいガードレール設定が防御を実施するのに役立たなかった」ことが判明したと明かした。その結果、Hugging Faceは中国のオープンソース模型であるZ.aiのGLM-5.2を使用することを余儀なくされ、自身を守ることに成功した。これが懸念事項であるかと問われたとき、Brockmanは直接答えず、できるだけ多くのAIツールにアクセスできることの重要性を繰り返した。その立場はNvidia最高経営責任者のJensen Huangが今週、最新の中国製AI模型は「優秀」であり「使用されるべき」だと述べたという最近のコメントと合致している。

この交換は米国のAI政策における緊張を浮き彫りにしている。トランプ政権は、アメリカ企業による中国製AI模型の使用禁止を検討していると報じられている。特に北京を拠点とするMoonshot AIが、AnthropicとOpenAIのトップアメリカ模型に近い性能を示しながら、おそらくはるかに低いコストで実現したKimi K3モデルをリリースした後のことだ。ホワイトハウス高官は、Moonshotが「蒸留」（1つの模型の出力を別の模型の訓練に使う技術）を使用してAnthropicのFableモデルを含む米国のAI研究所から知的財産を盗用していると非難している。ただし、法律専門家は蒸留が明確な知的財産窃盗というより法的なグレーゾーンに存在していると指摘している。1月にトランプ支持のスーパーPAC、MAGA, Inc.に2500万ドル寄付したBrockmanは、政権との禁止についての協議に参加していないと述べ、このような制限はより緊急のAI安全保障問題から目をそらす可能性があると示唆した。彼は「本来はそれが誰によって作られるかではない」と強調し、重要な問題は「どのように模型を評価するのか？それの安全性についてどのように考えるのか？その用途についてどのように考えるのか？そのアライメントについてどのように理解するのか？」であると述べた。彼はまたOpenAIがGPT-5.6モデルの7月9日のリリース前に、トランプ政権と「極めて密接に」協力する必要があったと述べ、フロンティアAI製品ローンチに対する政府関与の増加を強調した。

OpenAIでの暴走AI事件は、フロンティアAI産業に浮上している緊張を浮き彫りにしている。模型がより高い能力を備えるようになるにつれて、企業はあらゆる分野での動作を予測・制御することがますます難しくなっているのだ。Brockmanはこれを失敗ではなく機会として表現した。彼は、OpenAIの模型が示したサイバーセキュリティ能力を防御側に利用可能にし、「防御に10倍のコンピュート資源を費やす」ことができるようにすべきだと主張した。この枠組みは重要である。なぜなら、OpenAIの事件に関するブログ投稿は、サイバー防御向けの新しい「信頼できるパートナー」プログラムを通じてモデルへのアクセスを売り込むことで終わっており、同社が安全保障上の懸念とともに商業的な側面も見ていることを示唆しているからだ。

この事件はまた、米国のAI政策に対する厄介な現実を露呈させている。著名なAI基盤のHugging Faceは、アメリカの模型がサイバーセキュリティ業務に使用されるのを防ぐガードレールを施していたため、効果的な防御を実施するために中国製の模型（Z.aiのGLM-5.2）に頼らざるを得なかった。このディテールは、中国のAI模型へのアクセス制限を安全保障上の根拠から主張する議論を弱めている。少なくともこのケースでは、中国の模型がアメリカの代替手段よりも防御に役立つことが証明されたのだ。Brockmanはこれを懸念の種だと呼ぶことを拒み、代わりにできるだけ多くのツールにアクセスできることの重要性を強調した。この立場はNvidia最高経営責任者のJensen Huangが最近、中国の模型は「優秀」であり「使用されるべき」だと述べていることも反映している。

まだコメントがありません。最初のコメントを投稿しましょう！