SalesforceとNvidia、Koa発表

DreamforceカンファレンスでSalesforceは初の推論モデルKoaを披露した。NvidiaのオープンウェイトNemotronを基盤とし、販売・マーケティング・カスタマーサポート業務に特化してNvidiaと共に追加学習したものだ。これまでSalesforceは推論をフロンティアモデル提供各社に頼り、エージェントが多段階のタスクを処理する必要があるときはAgentforceのAIゲートウェイ経由でClaudeやChatGPTなどにプロンプトを振り分けていた。Koaは同じタスクをSalesforce自社のスタック内で処理することを狙う。

Salesforce AI担当EVPのJayesh Govindarajan氏によれば、同社はかねて自社のエンタープライズ級フロンティアモデルを訓練したいと考えていたが、適した事前学習済み基盤がなかった。同氏の言葉を借りれば、Nemotron以前には、利用可能で最先端かつデータ来歴が明確な米国の主権的事前学習モデルは存在しなかった。AlibabaのQwenが何で訓練されているか不明である点も指摘した。NvidiaのKari Ann Briski氏は、この組み合わせを主権AI、初回トークンまでの時間、効率的な推論という、同氏が「トークノミクス」と呼ぶものとして位置付けた。

企業買い手への訴えはいくつかの主張に基づく。クローズドなフロンティアモデルではなくオープンウェイトの選択肢であること、実際の顧客データではなく合成データで訓練されていること、同じ作業をより少ないトークンでこなすこと、AIゲートウェイによる自動振り分けだ。SalesforceはAnthropicやOpenAIを見限るわけではなく、データをSalesforceの記録システムに置いたままClaudeをAIインターフェースとして使えるようにする提携「Claudeforce」も発表した。Koaのトークン削減とデータ来歴の保証が実運用で持つかどうかが、企業が推論処理をフロンティア提供各社からどれだけ速やかに移すかを左右しそうだ。