さくらのAI Engine、10月8日提供開始

さくらインターネットはこのサービスを、既存の「さくらのAI Engine」の技術基盤と運用設計の上に築いている。一から作るのではなく、実績ある基盤を広げる動きだ。利用者の生成AIモデルをさくらインターネットのGPU基盤で動かし、APIで提供する。独自開発モデル、ファインチューニングしたモデル、オープンウェイトモデルを、その顧客だけが使う閉じた環境で扱える。

設計上の特徴は二つある。第一に、専有環境のため推論の実行が他の利用者に影響されず、推論基盤の構築から運用・監視までさくらインターネットが担う。利用者の運用負荷を下げる狙いだ。第二に、料金がGPUごとの月額定額制で、トークン使用量によってコストが変動する心配がない。入力データと生成結果はAIの学習に使われず、機密情報を扱う用途にも道が開ける。

自社モデルの運用方法を検討する読者にとっては、トークン量に応じた課金や顧客間で基盤を共有するサービスとの違いが実用的な比較軸になる。専有構成と定額制が自社に合うかどうかは、各社のワークロードで決まるだろう。10月8日からの稼働後、判断材料が増えそうだ。