Databricks、オープンウェイト利用が拡大と発表

Databricksのフィールドエンジニアは、企業が単一のフロンティアモデルプロバイダーに標準化してから2年後の戦略転換を説明している。きっかけは具体的だ。AI予算が収益やコスト削減を上回っており、最高知能ランキングは2023年5月以降に20回以上入れ替わり、単一プロバイダー構成は脆くなっている。ガードレールも実務上の障害となった。Hugging Faceのインシデントでは、ホストされたフロンティアモデルが実際の攻撃ログやエクスプロイトペイロードの分析を拒否したため、チームは代わりにオープンウェイトモデル（GLM 5.2）で分析を実行した。

モデルを取り巻くハーネスは、モデル自体と同じくらい重要であることが分かった。Databricks自身のベンチマークでは、同じモデルが一方のハーネスで61.7%、別のハーネスで48.1%、ハーネスなしで38.4%を記録した。だからこそ同社は、評価はモデルとハーネスを一緒にテストすべきだと主張している。DatabricksはUnity Gatewayを、コード変更ではなく設定やスマートルーティングでチームがモデルを切り替えられるレイヤーと位置づけ、オープンウェイト、外部、フロンティアモデルにまたがる予算、フォールバックチェーン、集中ガバナンスを備える。

利用データは、顧客が実際に行動している証拠だ。GLM 5.2が7月中旬に利用可能になると、その利用は増えた一方、Unity Gateway顧客間の成長は比較的安定していた。これは新規顧客の到来ではなく、既存顧客がトラフィックを移したことを示唆する。CEOのAli Ghodsi氏が一部をGPU容量の確保と結びつけた7月の30億ドル調達は、この需要を支えるものとして示されている。