
何が起きたか
Neuralwatt Cloud は、トークン数ではなく消費電力量(キロワット時)に基づいて料金を設定するAI推論APIサービスを開始しました。$5/kWh で利用でき、OpenAI互換のAPIとして提供されています。
なぜ重要か
従来のトークンベース料金制では、実際のリソース消費が不透明であり隠れたコストが生じていました。エネルギーベースの価格設定により、企業は自分たちのAIワークロードが正確にどの程度の電力を消費しているかを把握でき、モデル間での効率性を比較して意思決定できるようになります。
注目点
中央値で50ms未満の応答時間(最初のトークンまで)が実現されており、リアルタイムのエネルギーメトリクスがすべてのユーザーに無料で提供されます。Neuralwatt Deploy(オンプレミス版)も利用可能で、自社のデータセンター内での運用を選択できます。
こういう要約が、毎朝あなたのメールに届きます。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る
次の記事へ米国政府がAnthropic の最新モデルを外国人向けに遮断した事態により、ヨーロッパが米国企業に支配されたAI利用に依存している構造的な脆弱性が露呈した。