オープンソースAI

主要ニュース

1. 1

   Kimi K3モデルが注目を集める中、フロンティアAIラボが中国の競争脅威に直面

   中国のAIモデル「Kimi K3」がウォール街と米国政府関係者の間でアメリカのAI開発における競争力についての懸念を招いている。Stratecheryの分析では、競争上の脅威は新しいものではないが、OpenAIやAnthropicといったフロンティアラボが能力の進歩にもかかわらず構造的な優位性を保持していることを指摘している。 中国のモデルからの競争圧力は、AIに関する米国の政策方向についての問題を提起している。報道によると、中核的な脆弱性は生のモデル能力ではなく、米国のサイバーセキュリティ政策にあり、フロンティアラボが政府の支援と中国の競争にどう対処するかについての政策的一致なしにはこの課題を解決するのに苦労する可能性がある。

   米国のサイバーセキュリティに関する政策とそれが競争環境をどのように形作るか。分析によれば、この問題を解決するには米国が中国の競争の現実を受け入れる必要があり、たとえそれがOpenAIとAnthropicが課題に自力で対処することになったとしても。

2. 2

   NVIDIA とMicrosoftが米国にオープンウェイトAIモデルへの支援を要請

   NVIDIAやMicrosoftを含むテック企業が、公開されたウェイトを持つAIモデル（オープンウェイトAI）に対する米政府の支援を求めており、競争力強化とAI導入拡大の必要性を理由に挙げている。 オープンウェイトAIモデルは大手テック企業以外の開発者や企業の参入障壁を低くでき、AI アクセスの民主化をもたらす可能性がある。業界リーダーたちによるこの連合の推進は、オープンモデルが独自システムだけでなく、より広いAIエコシステムにおいて戦略的に重要だと見なされていることを示唆している。

   記事では、具体的な政策提案、実行時期、または連合が対象とする米政府関係者が明記されていない。

3. 3

   Nvidia CEOがオープンAIモデルを独占的システムの代替案として支持

   起きたこと：Nvidiaの最高経営責任者がオープンソースAIモデルを実行可能な道として支持する姿勢を示し、閉鎖的な独占的システムではなく、このアプローチを支持するMicrosoftやMetaと同じ立場に同社を位置付けた。 重要な理由：Nvidiaはオープンモデルと独占的AIシステムの両方に電力を供給するチップを製造している。CEOによるオープンモデルへの公開支持は、同社が両方のトラックに商業的機会を見ていることを示しており、企業や開発者がAIインフラストラクチャをどのように選択するかに影響を与える可能性がある。

   この声明は、独占的AI（OpenAIのような）を追求する企業とオープンに利用可能なモデルに投資する企業との間の、より広い業界の分裂を反映している。このテーマに関するNvidiaの中立性は、両陣営全体のハードウェア購入決定を形成する可能性がある。

4. 4

   中国のAI「Kimi K3」、期待値未満

   中国のAIモデル「Kimi K3」がオープンソース（無料でダウンロード・改変可能）として公開され、1週間が経過した。初期テストでは、米国の主流AIモデルに比べて性能が劣ることが判明している。サイバーセキュリティの脆弱性発見能力が低く、紙面上の効率性の見た目に反して、米国製品より大幅に多くのトークンを消費している。 Kimi K3自体は競争上の脅威ではないが、オープンソースモデルは安全機構（中国政府の制限を含む）を取り外され、ハッカーに悪用される可能性がある。安全性の専門家は、将来さらに能力の高いオープンソースモデルが生物兵器開発に利用される可能性を懸念している。クローズドソースモデルはそうした要求を拒否する設定が容易いため、このリスクはより高い。真の危機は現在のモデルではなく、強力なAIが自由にダウンロードでき、安全機構なしで使用される未来に備えることにある。

   オープンソースAIモデルの禁止は実行不可能である。焦点は、その公開を防ぐのではなく、強力なオープンソースモデルが標準となる世界に向けた防御と安全対策の準備に移すべきである。

5. 5

   Cotter：ロボット制御ポリシーの安全性コンプライアンスをストレステストするオープンソースフレームワーク

   Cotterというオープンソースのコマンドラインツールがリリースされた。MuJoCo シミュレーション環境において、訓練されたロボット制御ポリシーに対して統計的安全性テスト、回帰テスト、敵対的コンプライアンステストを実行でき、監査対応のレポートを構造化された合格・不合格結果として生成する。 EU機械規則やISO 10218といった規制が、学習されたロボットコントローラーの安全な動作の証拠をますます要求するようになっている中で、Cotterはこの新興のコンプライアンス需要に対応し、どの開発者でもpipでインストール可能な標準化されたCPUベースのテストフレームワークを提供している。

   本ツールは現在GitHub（github.com/yih0nk/cotter）でオープンソースとして利用でき、pip install cotterbotでインストール可能である。プロジェクトのウェブサイトはcotter-website.vercel.appである。

6. 6

   1000ドル未満のオープンソースロボット、消費者向け8GB GPU で学習

   研究者らが AlohaMini2 をリリースした。1000ドル未満で自作可能な初のロボットで、食料品の買い物など自律型モバイル操作タスクを実行できる。標準的な消費者向け8GB GPU のみを使用し、人間によるデモンストレーション50エピソードで訓練した結果、長期目標タスクで50％のエンドツーエンド成功率に達した。 これまで、物理世界と相互作用するロボット（具現化 AI）には、高額なサーバーファームと大規模な研究施設が必要だった。このプロジェクトは、最先端のロボット操作が消費者向けハードウェア上で実行可能であることを実証し、機関的リソースを持たない研究者やビルダーの参入障壁を大きく取り除いた。

   チームがリポジトリ全体をオープンソース化し、ハードウェアファイルとコードベースを公開する予定。設計と訓練方法が誰でも利用でき、他者が構築・改善することが可能になる。