トークン単価より成果で測るAI開発へ

この提案が出てきた背景には、トークン単位の課金がエージェント型コーディングを予算問題に変えつつある状況がある。UberはClaude Codeの利用拡大により、2026年のAI予算を4月までに使い切ったと報じられている。GitHub Copilotも定額制から従量制クレジットに移行した。HPEの答えは利用を制限することではなく、能力の所有者を変えることだ。難しい計画立案には最先端モデルを残し、コード生成、テスト作成、繰り返しのリファクタリングはオンプレで動かすオープンウェイトモデルに振り分ける。

経済性は両面ある。レンタル推論は呼び出しごとに請求が積み上がる一方、自社保有はコストの大半を前払いし、利用が増えるほど呼び出しあたりは安くなる。ただし電力、運用、保守、減価償却は依然としてかかる。HPE自身の導入は150超の社内アプリに及び、このモデルが機能する証拠として示されている。トークンコストは30〜50%下がった。

利用の集中は予算編成を難しくする。上位5%のユーザーが消費の大半を生み出しており、ヘビーユーザーが少数派から全従業員の半数に増えれば、人員が変わらなくても月次支出は約4.4倍になり得る。だからこそHPEは指標を消費量だけでなく出荷されたソフトウェアに結びつけており、自社保有が万人向けではないとも認めている。利用が少ない、または予測しにくい場合はAPIの方が有利だ。