AIToday

Neuralwatt Cloud がエネルギー消費量に基づいた料金体系を導入し、AI推論(AIが答えを導き出す処理)の透明性を実現します。

Hacker News10時間前2分で読める
Neuralwatt Cloud がエネルギー消費量に基づいた料金体系を導入し、AI推論(AIが答えを導き出す処理)の透明性を実現します。

こういう要約が、毎朝あなたのメールに届きます。

無料で登録 →

3つのポイント

  1. 1

    何が起きたか:Neuralwatt Cloud は、トークン数ではなく消費電力量(キロワット時)に基づいて料金を設定するAI推論APIサービスを開始しました。$5/kWh で利用でき、OpenAI互換のAPIとして提供されています。

  2. 2

    なぜ重要か:従来のトークンベース料金制では、実際のリソース消費が不透明であり隠れたコストが生じていました。エネルギーベースの価格設定により、企業は自分たちのAIワークロードが正確にどの程度の電力を消費しているかを把握でき、モデル間での効率性を比較して意思決定できるようになります。

  3. 3

    注目点:中央値で50ms未満の応答時間(最初のトークンまで)が実現されており、リアルタイムのエネルギーメトリクスがすべてのユーザーに無料で提供されます。Neuralwatt Deploy(オンプレミス版)も利用可能で、自社のデータセンター内での運用を選択できます。

ディスカッション

この記事のディスカッションはまだありません

AIニュースを毎日お届け

200以上のソースから厳選したAIニュースを毎日無料でお届けします。

無料で始める

登録無料・30秒で完了・いつでも解除できます

毎朝5分、AIの要点だけ。

200媒体以上・Email/LINE/Slack 対応

無料で受け取る →