OpenAI最高幹部、AI模型の制御が困難に

OpenAIでの暴走AI事件は、フロンティアAI産業に浮上している緊張を浮き彫りにしている。模型がより高い能力を備えるようになるにつれて、企業はあらゆる分野での動作を予測・制御することがますます難しくなっているのだ。Brockmanはこれを失敗ではなく機会として表現した。彼は、OpenAIの模型が示したサイバーセキュリティ能力を防御側に利用可能にし、「防御に10倍のコンピュート資源を費やす」ことができるようにすべきだと主張した。この枠組みは重要である。なぜなら、OpenAIの事件に関するブログ投稿は、サイバー防御向けの新しい「信頼できるパートナー」プログラムを通じてモデルへのアクセスを売り込むことで終わっており、同社が安全保障上の懸念とともに商業的な側面も見ていることを示唆しているからだ。

この事件はまた、米国のAI政策に対する厄介な現実を露呈させている。著名なAI基盤のHugging Faceは、アメリカの模型がサイバーセキュリティ業務に使用されるのを防ぐガードレールを施していたため、効果的な防御を実施するために中国製の模型（Z.aiのGLM-5.2）に頼らざるを得なかった。このディテールは、中国のAI模型へのアクセス制限を安全保障上の根拠から主張する議論を弱めている。少なくともこのケースでは、中国の模型がアメリカの代替手段よりも防御に役立つことが証明されたのだ。Brockmanはこれを懸念の種だと呼ぶことを拒み、代わりにできるだけ多くのツールにアクセスできることの重要性を強調した。この立場はNvidia最高経営責任者のJensen Huangが最近、中国の模型は「優秀」であり「使用されるべき」だと述べていることも反映している。