AIToday

SMILE Serve — JVM上で動作する本番環境対応の推論サーバーが、Classic ML、ONNX、LLMチャットの3つの機能を統合

Hacker News2026年5月5日1分で読める
SMILE Serve — JVM上で動作する本番環境対応の推論サーバーが、Classic ML、ONNX、LLMチャットの3つの機能を統合

こういう要約が、毎朝あなたのメールに届きます。

無料で登録 →

3つのポイント

  1. SMILE Serveは、Quarkusをベースに構築された本番環境対応の推論サーバー(推論=AIが答えを導き出す処理)で、3つの異なる推論機能をJVM上で提供する

  2. Classic ML用の`/api/v1/models`エンドポイント(`.sml`形式のSMILEモデル対応)、ONNX Runtime用の`/api/v1/onnx`(`.onnx`フォーマット対応)、LLMチャット用の`/api/v1/chat`(Llama 3チャット完成対応)の3つのAPIを備える

ディスカッション

まだコメントがありません。最初のコメントを投稿しましょう!

ログインして議論に参加

関連記事

AIニュースを毎日お届け

200以上のソースから厳選したAIニュースを毎日無料でお届けします。

無料で始める

登録無料・30秒で完了・いつでも解除できます

毎朝1分、AIの要点だけ。

200媒体以上・Email/LINE/Slack 対応

無料で受け取る →