中国のAI「Kimi K3」、期待値未満

中国のオープンソースAIモデル「Kimi K3」が公開されて1週間が経ち、現在実世界での評価を受けている。初期の技術的評価は低調である。米国の主要なAIラボのモデルと比較すると、Kimi K3はサイバーセキュリティの脆弱性特定能力が著しく低く、公表されたベンチマークでは効率的に見えるにもかかわらず、実際には同等の米国モデルよりはるかに多くのトークンを消費する。これは重要な疑問を提起する。Kimi K3が最先端の米国モデルより優れているでも安いでもないとすれば、どのようにして事業上または国家安全保障上のリスクをもたらし得るのか。記事はそれが少なくとも現在の形では、そうしたリスクをもたらさないと答える。Kimi K3は使い古されたプレイブックに従う。中国のオープンウェイトモデルリリースはベンチマーク、本質的には最適化が比較的容易な標準化テストでしばしば優れた性能を発揮するが、実際の使用では誇大宣伝を届けられない。オープンソースモデルはまた、絶対的な品質が重要でない高容量で速度に敏感なタスクで優れる傾向がある。ただし、現在の中国のオープンソースモデルの見かけ上の弱さは、実際の安全リスクの不在と混同されるべきではない。これらのモデルはオープンソースであるため、ユーザーは中国政府によって委任されたものを含む安全機構を削除するよう改変できる。これはハッカーが悪意のある目的のために再利用しようとする魅力的なターゲットにする。安全性の専門家はさらなる懸念を提起する。オープンソースモデルは最終的に生物兵器開発を支援するために活用される可能性がある。Anthropicのような企業によって管理されるクローズドソースモデルは、そうした要求を拒否するか、ユーザーをより能力の低いモデルバージョンにダウングレードするよう設計されている。クローズドソースモデルに詳細な生物学的情報を提供させることは意図的に困難である。安全機構が削除されたオープンソースモデルは、そのような制限を持たないだろう。記事は中国からの現在のオープンソースモデルは実質的な害をもたらすのに十分な能力があるようには見えないことを認める。重要なのは軌跡である。これらのモデルが改善されるにつれて、リスクは複合する。記事はオープンソースモデルの禁止は理想的に聞こえるが、最終的には無駄な取り組みであることで結論づける。コードが公開領域に入ると、実行は不可能である。代わりに、現在から強力なAIモデルが自由にダウンロード可能で、安全機構なしでデプロイされる世界に備える実際的な道が前方にある。このシフトは、産業界と政府全体にわたる防御と安全慣行の両方を再考する必要がある。

Kimi K3は中国のAIリリースにおける繰り返されるパターンを象徴している。強いベンチマーク性能が実世界の能力に転化しない。サイバーセキュリティタスクにおける弱い性能と高いトークン消費は、中国からの現在のオープンソース提供物が直接的な競争上または安全上の脅威をもたらさないことを示唆している。しかし、記事の本体は、オープンソースモデルが改善されるにつれてリスク計算が変わることを明確にしている。今日のモデルは無害かもしれないが、自由にダウンロード可能で、改変でき、安全制約のない基盤アーキテクチャは構造的な脆弱性を生み出し、それは能力が増加するにつれてさらに重要になるだろう。また記事は実際的な現実を認める。オープンソースモデルの禁止は実行不可能である。コードが公開されると、その使用または流通を制限する試みは、調整上および技術上の乗り越え難い課題に直面する。これにより、政策立案者とラボは、実行不可能な制限を強制しようとするか、オープンで強力なAIモデルが日常の事実である世界に向けた回復力と防御策に投資するかの戦略的選択に直面している。

まだコメントがありません。最初のコメントを投稿しましょう！