AI導入企業が「トークン」の急増コストに直面—一部企業は使用を制限し始める一方、投資拡大で利益を狙う企業も

何が起きたか

生成AI（文章を理解・生成するAI）ツール利用の拡大に伴い、「トークン」（AIが処理する内容の量を示す単位）の使用量が急増しています。Royal Bank of Canadaのトークン使用量は過去6ヶ月で500%増加し、Ciscoではトークン使用が「非常に大きくなっている」とCEOが述べました。4月～5月に約300社が決算説明会や公開討議でトークンについて言及し、1年前の同時期の93社から大幅に増加しました。

なぜ重要か

企業にとってAIツールのコストが予測困難になっているためです。価格は変動し、より高性能で高額な新モデルが毎月リリースされ、組織全体での導入が進むと思わぬボトルネックが発生するなど、経営層の判断が難しくなっています。このため「トークン予算」の管理が、CFO（最高財務責任者）にとって最も重要で、かつ「熱い議論」の対象となっています。

注目点

企業によって戦略が二分しています。8x8は過去18ヶ月でClaudeに関連する約$5 million（約8億円）の年間コスト削減を実現し、Claude Opus 4.8（2月版比で約1.7倍のコスト）への切り替えを検討中です。一方、Baseball Lifestyle 101は50人の経営層に月給の約20%相当のトークン消費を促し、すでに月$100,000を超えるコストで取り組む投資戦略を取っています。