米国AI企業CTO、中国モデルは危険ではないと主張

米国のオープンソースAIラボArceeのCTO、Lucas Atkinsは、中国AIモデルに対する制限が高まる声に反対する立場を取っている。Moonshot AIのKimi K3やAlibabaのQwenのような中国のオープンウェイトモデルが能力と市場シェアを増す中、OpenAIやAnthropicのような米国ラボの有料モデルのトークンコストの数分の一で推論を提供しており、セキュリティリスクへの懸念が激化している。Trump政権がそれらを禁止する可能性があるという話が出ているが、まだ実行には至っていない。

Atkinsは、これらのモデルが企業が使用する可能性のある他のオープンソースソフトウェアと同程度に危険ではないと主張している。彼は、中国モデルが「特定の意図でコード化された」もので悪い行為者が悪用する可能性があるという枠組みに異議を唱えている。「それは基本的にこれらのモデルがどのように学習されるかではない」とAtkinsは説明している。モデルはHugging Faceのようなオープンソースリポジトリからダウンロードされ、企業自身のデータセンター内で実行されると、「Arceeやアリババがモデルを作成し、誰かが独自の環境で実行したとしても、私たちがアクセスする方法は本当にない」。モデルはフルオープンソースではなくオープンウェイト（学習方法とデータは所有権がある）だが、サーバーで実行されるソースコードは見え、レビュー可能である。

Atkinsは、大規模な組織が本番運用前にセキュリティテストと検査プロセスを通じてあらゆるモデルを実行すべきであり、これは標準慣行であることを認めている。企業はしばしば特定のニーズのためにモデルを追加学習し、バイアス、毒性、ハルシネーション、特定のトピックへの感度などの領域を調査している。彼は、理論的には、コーディング用に学習されたモデルが特定の状況下でマルウェアを導入するように設計される可能性があることを認めているが、そのような取り組みを「曲芸的な」ものと呼んでいる。大規模言語モデルは本質的に創造的で予測不可能であるため、所定の文脈とプロンプトの組み合わせに応答して確実にマルウェアを生成することを強制する可能性は「低い」。企業が実際にそのようなコードを使用する可能性はさらに低い。

Atkinsは禁止とは異なるアプローチを主張している。「中国モデルをどのように禁止するかについての会話の代わりに、米国でどのように良いオープンエコシステムを育成するかについての会話であるべきだと思う」。彼は、Arcee自体が中国モデルが公開されており広く利用可能であることから利益を得ていることに注目し、これにより同スタートアップがそれらから学習し、その上に構築することができる。前進する競争的な道は、「より優れたモデルをリリースすること」だと彼は主張している。さらに、企業はますますモデル非依存でありモデル複数を使用するようにAIアプリケーションを構築しているため、たとえ中国の選択肢が現在最高の価格対性能を提供していたとしても、無期限に中国の選択肢に依存することはないだろう。

中国AIモデルを巡る議論は、セキュリティ懸念、競争不安、技術的現実の衝突を反映している。Moonshot AIやAlibabaのモデルがOpenAIやAnthropicのような米国の非公開モデルのトークンコストの数分の一で推論を提供する中、一部の政策立案者と有料モデル開発者は制限や禁止を求めている。Arcee（中国の選択肢と競争するためにオープンモデルを構築している米国スタートアップ）は論理的にはそのような制限から利益を得るはずだが、同社のCTOは反対の主張をしている。Atkinsはオープンウェイトモデルを独特に危険なものではなく、企業が採用する可能性のあるその他のオープンソースソフトウェアと機能的に類似しているものとして位置づけている。彼の重要な主張は技術的な区別に基づいている。オープンウェイトモデルは、製造業者が遠隔制御できる非公開ソフトウェアと同等ではない。ダウンロードして組織自身のインフラで実行されると、モデル開発者はすべてのアクセスを失う。さらに、大企業は本番運用前にモデルに対してセキュリティテスト、検査、追加学習を実施し、モデルの動作を可視化している。Atkinsは、洗練された行為者が特定の条件下でバックドアを注入するようにモデルを設計する可能性があることを認めているが、そのような攻撃を実行することの実行上の困難さ、およびその後企業がそのコードを使用する可能性の低さを強調している。彼の枠組みは、実際の競争上の優位性は制限ではなく能力（企業がロックインではなく品質とコストで選択する、より優れたモデルを構築すること）にあることを示唆している。

まだコメントがありません。最初のコメントを投稿しましょう！