中国のAI「Kimi K3」、期待値未満

何が起きたか

中国のAIモデル「Kimi K3」がオープンソース（無料でダウンロード・改変可能）として公開され、1週間が経過した。初期テストでは、米国の主流AIモデルに比べて性能が劣ることが判明している。サイバーセキュリティの脆弱性発見能力が低く、紙面上の効率性の見た目に反して、米国製品より大幅に多くのトークンを消費している。

なぜ重要か

Kimi K3自体は競争上の脅威ではないが、オープンソースモデルは安全機構（中国政府の制限を含む）を取り外され、ハッカーに悪用される可能性がある。安全性の専門家は、将来さらに能力の高いオープンソースモデルが生物兵器開発に利用される可能性を懸念している。クローズドソースモデルはそうした要求を拒否する設定が容易いため、このリスクはより高い。真の危機は現在のモデルではなく、強力なAIが自由にダウンロードでき、安全機構なしで使用される未来に備えることにある。

注目点

オープンソースAIモデルの禁止は実行不可能である。焦点は、その公開を防ぐのではなく、強力なオープンソースモデルが標準となる世界に向けた防御と安全対策の準備に移すべきである。