
機械学習研究者Devanshの分析によると、Nvidia H100 GPUでの推論コストは100%利用率時に約$0.0038/M tokens(100万トークンあたり)だが、実際の30%利用率では~$0.013/M tokens、10%利用率では~$0.038/M tokensとなる。一方、Anthropicの最新モデルOpus 4.7は$5/M tokens(入力)と$25/M tokens(出力)で提供されている。
MetaやShopifyなど一部企業がトークン使用量を重要な業績指標として扱い、従業員がAIツール使用で価値を示そうとしているが、Devanshはトークン支出と生産性は直接相関していないと指摘している。
IT consultancyのFuture Tech EnterpriseのCEO Bob Veneraは、Fortune 100クライアントの多くが達成したい目標を明確にせずAIプロジェクトに多額の投資をしており、企業がAIの影響を測定してROIを評価するのに苦労していると述べている。
こういう要約が、毎朝あなたのメールに届きます。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る
次の記事へMusk対Altman、OpenAIの非営利使命をめぐる訴訟が開始――陪審員選定は月曜日から