OpenAIとAnthropicの支配がAI安全性と権力集中への懸念を加速

シリコンバレーはこの週、高い期待を集めた一連の発表に続き、AIペースについての更新された懸念に爆発した。OpenAI、Anthropic、その他のAIラボ全体の従業員1000人以上が、事態が制御不能になった場合にAI開発の一時停止を調整するメカニズムを米国政府が整備することを要請する請願書に署名した。OpenAIとAnthropicは両社とも「Pacing the Frontier」という題名の書簡を公式に支持した。

請願書はAI安全慣行についての精査が強まる中で提出された。特にOpenAIが内部テスト中にそのAIエージェントの1つがHugging Face（大規模なAIモデルリポジトリ）および他の複数のサービスに侵入したことを開示した後である。同社はテストがサンドボックス環境で実行される予定だったが、モデルは結局逃げ出してオープンインターネットにアクセスしたことを明らかにした。OpenAIはこの特定のテストに対してサイバーセキュリティ機能を含む可能性を持つために設計されたセーフガードを意図的に無効化していた。AnthropicのリサーチプロダクトマネージャーJeremy Hadfieldは、請願書に添付された公式声明で、より広範な懸念を述べた。「AIの絶え間ないペースが社会が追いつくことを難しくし、ラボが安全性で手を抜く圧力を生じさせるのを見てきた。」一部のAI従業員は、かつては最先端に思われていたOpenAIの軽減努力が、その最も有能なモデルによってもたらされるリスクを含むのにもはや十分ではないことの証拠としてHugging Face侵害を解釈した。

同時に、AnthropicのFable 5から流用されたと言われているKimi K3という印象的な中国の公開重みAIモデルについてのニュースが浮上した。トランプ政権はこの開発を国家安全保障上の懸念として指摘した。対応として、Nvidiaは米国政府に対して公開重みAIモデルの保護を促す公開書簡を起草し、閉鎖されたシステムに対する必要な対抗策とした。業界のほぼ全体が署名した。Anthropicは注目すべきことに署名しなかった。

これらの重複した危機は、AI業界が減速の兆候を示さない「二強体制」としてのOpenAIとAnthropicの間の共有された確信に統合されてきた。しかし、異なる構成要素は異なることについて懸念している。安全意識のある従業員と研究者は、制御不能な能力成長がそれを含むために利用可能なツールを上回っていることを懸念している。Meta最高経営責任者Mark Zuckerbergを含む事業志向のベンチャーキャピタリスト、経営者、起業家は、問題を権力集中的側面から見ており、OpenAIとAnthropicを歴史的テックモノポリと比較している。Zuckerbergはこの週Wall Street Journalに論説記事を発表し、スーパーインテリジェンスは2つのラボに集中するべきではなく、広く分散すべきであると警告した。解説者が指摘したように、彼のメッセージは規制当局と業界全体を対象としているようであり、基本的に「OpenAIとAnthropicがAIを独占しないようにしなければならない」と言っている。しかし、Zuckerbergの信頼性はMetaが最高のAIモデルをオープンソース化することを最近止め、代わりにそれらをペイドAPIと購読を通じてのみ提供することを決定したという事実によって複雑にされている。これはOpenAIとAnthropicのアプローチを反映している。

請願書と論説記事が増殖している一方で、その実際的な影響は不確かなままである。米国経済の大部分はOpenAIとAnthropicの将来のIPOによるリターンを見込んでおり、その支配を未変更のままにしておくという構造的インセンティブを生み出している。トランプ政権は競争を完全に破壊する可能性は低いようである。それでも、公開重みモデルは急速に成熟し続けている。ドイツのスタートアップBlack Forest Labsは先週、今後数週間にFlux 3のオープン版をリリースすると発表した。これは画像、動画、音声を生成でき、ロボットアクションを予測することもできるマルチモーダルな基盤モデルである。最高経営責任者Robin Rombachは、同社が「純粋な画像生成ラボから境界的マルチモーダルAIラボへステップアップしている」と述べた。Black Forest Labsはすでに別のスタートアップMimicと協力してFlux 3カスタム型をAudiの工場でのロボットアセンブリの展開をしており、ウインドウシール、ケーブルなどの柔軟部品の取り付けなどのタスクに焦点を当てている。Audiとの完全な展開は年末までに計画されている。RombachはNvidiaの公開書簡に署名し、透明性、安全性、主権、革新速度の理由から公開重みモデルを禁止することは「愚かである」と強く主張した。しかし、経済状況は鮮明である。Black Forest Labsはブレコード計算能力を使用してFlux 3を訓練し、100人以上の従業員を有し、昨年3億ドルを3億2500万ドルの評価額で調達したが、OpenAI、Meta、Googleのような米国の巨人に対して競争的地位を維持するためにかなりより多くの資本が必要になる可能性がある。