Writer、コスト半減の新モデル Palmyra X6を発表

マーケティング向けAIツール企業のWriterは木曜日、新たなフラグシップモデル「Palmyra X6」を発表しました。このモデルはZ.aiが開発したオープンソース基盤モデル「GLM-5.2」をベースに、Writerが追加の学習を施したものです。CEO May Habibは「企業は次々とベンチマークを追い求めるのに疲れている。コスト低下を望んでいるのに、それを実現できる企業がいない」とTechCrunchに述べており、Palmyra X6はこの課題に直接応えるものです。

Writerが同時に発表したのは、AIシステムの基盤となるハーネス（ユーザーのリクエストに応じてAIが判断・実行する仕組み）の大幅なアップグレードです。同社推定では、新モデルとハーネス改善の組み合わせにより、基本的なタスクのコストを最大50%削減できるとしています。複数ステップの複雑なタスクをより高速に、より少ないトークン数で実行することに特に力を入れているとのことです。

Writerの研究チームが発表した論文は、この戦略の有効性を裏付けています。異なるモデル間でハーネス効率の小さな変化をテストしたところ、多くの場合、ハーネスの改善がモデル選択よりも信頼性の高いコスト削減手段であることが判明し、テスト全体で平均40%のコスト低下を実現しました。研究チームは「ハーネスは、組織が現在および将来実行するあらゆるモデルにわたって効率性が乗算される唯一のコンポーネント」と指摘しています。

Writerのクライアント側の体験はモデルに依存しません。Palmyra X6はほかのWriterモデルや、AzureおよびAmazon Bedrockを通じてインポートした外部モデルと並行して利用できます。一方、Habibはコスト削減への圧力が大手AIラボへの不信感を高めているとも述べており、「AIラボは、エンタープライズがAIから利益を得るのを助ける方法を本当には理解していない」と述べています。AI業界全体でトークン処理コストの急騰がユーザー企業を直撃する中、新モデルと最適化されたハーネスは木曜日からWriter利用者に提供開始されます。