
何が起きたか
フランスのスタートアップZMLが、オープンソースの大規模言語モデルを複数のチップ上で動作させる推論処理ソフトウェア「ZML/LLMD」を無料で公開しました。NvidiaやAMD、Google TPU、Apple Metal、Intel Arcなど異なるチップに対応しています。
なぜ重要か
推論処理の最適化がモデル学習と同等かそれ以上に重要になる中、チップごとの異なる性能要件に対応することは、企業がチップメーカーへの依存から脱却し、コスト削減やエネルギー効率を追求できるようにする可能性があります。
注目点
ZMLは$20 million(約32億円)の資金調達に成功し、創業者のSteeve Morinは2017年にSnapchatがZenlyを買収した際にエンジニアリング責任者を務めていました。ZML/LLMDは現在無料で提供されており、将来的な有料化の時期はまだ決まっていません。
こういう要約が、毎朝あなたのメールに届きます。
推論処理がAIモデルの訓練と同等かそれ以上に重要になる中、ZMLは既存のチップメーカーへの依存による「ベンダーロックイン」を解消し、企業が複数のチップ選択肢から最適なものを選べる環境を作ろうとしています。Steeve Morinが指摘するように、ソフトウェアとアーキテクチャの障壁がAI導入の効率性を阻害しており、これを取り除くことは特にコスト上昇を懸念する企業にとって意味を持ちます。
ZMLはフランスパリに本拠を置き、20人の小規模チームながら$20 million(約32億円)の資金調達を実現しており、>commitやKima Ventures、20VC、Kindred Capitalなど複数のベンチャーキャピタルの信頼を得ています。同社が「シリコン共同設計」に到達したと述べる点や、vLLMやSGLangといった既存プロジェクトとの部分的な競合関係の中で、より広い野心を持つ点は、ヨーロッパのAIスタートアップが独自のプラットフォームを構築する可能性を示唆しています。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
Amazonはウェアラブル個人AI「Bee Frontier」をOnyx、Lavender、Sageの3色で74.99ドルにて導入し、「Bee Eclipse」も99.99ドルから近日発売すると発表した

AI相場への懸念と原油高が重荷となり、ウォール街は大幅安で取引を終えた

Financial Timesによると、CitiがAIエージェントによる口座アクセスを制限する最新の米銀となった

AI関連株が、Anthropicの設備投資水準と増収鈍化への懸念から売り込まれた

DellのArthur Lewis社長は「多くの場合、次の制約はモデルではなくデータだ」と述べ、AI Data Platformがその問題を解決すると説明した

MicrosoftとNvidiaがローカルAI向け新Windows PC「RTX Spark」を推進
