Salesforce、Nvidiaで推論内製化

SalesforceはDreamforceカンファレンスで、NvidiaのオープンウェイトNemotronを基に構築した初の推論モデルKoaを発表した。同社は以前から自社のエンタープライズ級フロンティアモデルを訓練したいと考えていたが、適した事前学習済み基盤がなかったとしている。Salesforce AI担当EVPのJayesh Govindarajan氏は、Nemotronが最先端でデータの来歴が明確な初の米国の主権的な事前学習モデルだと指摘し、学習データを知り得ないとするAlibabaのQwenと対比した。

Koaの構築にあたり、SalesforceとNvidiaは実際の顧客データを避け、怒った顧客から成約する営業担当までカスタマーサービス環境を模した合成データを作成した。Koaは、Salesforceの顧客がエージェントに望む業務タスクをClaudeやChatGPTに送る場合と比べ、より優れ、消費トークンも少ないことを目指している。NvidiaのKari Ann Briski氏は、Nemotronの推論アーキテクチャをトークン効率が良いと評し、主権AI、初回トークンまでの時間、効率的な推論の組み合わせが重要だと述べた。

この動きは、Salesforceがフロンティアラボへの依存を続ける中で打ち出された。同社はAnthropicとの提携ClaudeForceも発表しており、データをSalesforceの記録システムに置いたまま企業がClaudeをAIインターフェースとして使えるようにする。Koaの試金石は、企業がこれまで業務を回してきたフロンティアモデルの代わりに、タスク特化型のオープンウェイト推論モデルを受け入れるか、またトークン削減とデータ管理が能力差を上回るかどうかになりそうだ。