オープンソースAI

主要ニュース

1. 1

   AlibabaのQwen-Image-2.1、70億パラメータで内部ベンチ上位を主張

   AlibabaのQwen AIチームがオープンウェイトモデルQwen-Image-2.1を公開。70億パラメータの視覚コンポーネントを備え、3090など高性能なコンシューマーGPUで動作する。 透明（RGBA）画像の生成・編集が可能で、最大10枚の参照画像を同時に扱える。Qwen独自ベンチマークでほとんどのクローズドモデルを上回るとチームは主張するが、独立系ベンチマークはまだ待たれる状況。

   研究ライセンスは商用利用を禁じているため、ビジネス導入はQwenが別途ライセンスを付与するかどうかにかかる。独立系ベンチマークの結果次第で、Qwen社内テスト以外でも主張が成り立つかが明らかになる。

2. 2

   テンセントGander、8％でGPT超え

   テンセントのHunyuan Speechチームと大学の研究者がGanderを発表。処理を小脳と交換可能な脳に分ける。割り込み率は8％、GPT-Realtimeは13.5％。 Ganderの低い割り込み率は、会話と推論を分離すればGPT-Realtimeなどより音声アシスタントの邪魔感を減らせる可能性を示す。ただしタスク精度は最弱の競合をわずかに下回った。

   研究者はこの取り組みを初期段階と位置づけ、Ganderのスケールアップ方法は未解決の課題。テンセントはオープンソース公開プロセス完了後に重みと学習データを公開する予定。

3. 3

   WaterlooのProgramAsWeights、英語定義の関数をローカル実行

   University of WaterlooがProgramAsWeightsを公開。英語の記述をCPUを含むローカルで動く再利用可能なニューラルプログラムにコンパイルする。 関数が何をすべきかの理解と、その繰り返し実行を分離した点にある。タスクは固定のまま入力が変わり続けるため、定義を数千の入力に適用できる。

   例ではGPUが必要なチームのホスト型コンパイラを使うが、自前ホストも可能。ダウンロード後にローカルで動き続け、マシン外への呼び出しが一切ないかが試される。

4. 4

   DiffusionGemmaをPyTorchで実装

   Redditユーザー/u/Winter_Mistake_3185が「DiffusionGemma: How It Generates Text in Parallel (From Scratch in PyTorch)」をr/MachineLearningに投稿。 並列テキスト生成は、大半の大規模言語モデルが使う一語ずつ方式の代替手段であり、こうした実践的なコードは開発者が技術を試し理解しやすくする。

   投稿には結果もサンプルもベンチマークもなく、実装が実際に何を達成したかは未検証。スレッドは[P]付きで、査読論文ではなくプロジェクトを示す。

5. 5

   /u/oGauRavがGitHubのMLリポジトリを共有

   Redditの/u/oGauRavがgithub.com/gyr0byte/ML-Foundationsを共有。 5カ月かけて毎日コミットして構築され、ノートブックはすべて公開されている。機械学習の初学者にとって体系的な自習の道筋になり得る。

   価値はノートブックが適切に維持され読みやすいかどうかにかかっている。投稿はフィードバックとスターを募集しており、より広い採用や成果はまだ示されていない。

6. 6

   オープンウェイトモデルがAI Gatewayのトークンの56%を占める

   8月、Vercel AI Gateway上の全トークンのうち56%をオープンウェイトモデルが処理した。12月時点の7%から増加している。一方、OpenAIのAstraは提供開始から最初の12日間でゲートウェイ全体の支出の7.7%を占め、Fable 5.1の3.7%の2倍以上となった。 オープンウェイトモデルは今や、クローズドウェイトモデル全体を合わせたよりも多くの本番トラフィックを担っている。これにより、チームは割高なコストに見合うタスクにフロンティアモデルを温存できる。

   オープンウェイトモデルの支出シェアが今後も上昇を続けるかどうか。8月時点でも支出の過半は依然としてフロンティアモデルが占めていた。次回の月次インデックスで支出データを確認したい。