AIToday
ENJA
無料で受け取る
大規模言語モデルオープンソースAIHacker News掲載日時: 2026年5月5日 10:001分で読める

SMILE Serve — JVM上で動作する本番環境対応の推論サーバーが、Classic ML、ONNX、LLMチャットの3つの機能を統合

LINEで送る
SMILE Serve — JVM上で動作する本番環境対応の推論サーバーが、Classic ML、ONNX、LLMチャットの3つの機能を統合

3つのポイント

  1. SMILE Serveは、Quarkusをベースに構築された本番環境対応の推論サーバー（推論＝AIが答えを導き出す処理）で、3つの異なる推論機能をJVM上で提供する

  2. Classic ML用の`/api/v1/models`エンドポイント（`.sml`形式のSMILEモデル対応）、ONNX Runtime用の`/api/v1/onnx`（`.onnx`フォーマット対応）、LLMチャット用の`/api/v1/chat`（Llama 3チャット完成対応）の3つのAPIを備える

この記事についてAIに質問する →

Hacker News元記事を読む
LINEで送る

「大規模言語モデル」の最新ニュースを、毎朝7時にお届けします

たとえば、いま届くならこの3本です

  • DataAgentが1000万ドル調達、Kubernetes障害を自動修復SiliconANGLE AI · 4時間前
  • SK海力士定制HBM推升推理性能5.15倍DIGITIMES Asia · 4時間前
  • エヌビディア決算、統合回避戦略で退屈な内容にStratechery (Ben Thompson) · 4時間前

AIが要約して、あなたの選んだトピックだけを1日1通。LINE・Email・Slackで届きます。

無料で毎朝受け取る →LINEで友だち追加して受け取る

登録無料・30秒で完了・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。Q&Aはこのページに公開され、他の読者も読めます。

ログインしてAIに質問する

関連記事

DataAgentが1000万ドル調達、Kubernetes障害を自動修復

イスラエルの新興企業DataAgent Ltd.は、顧客のKubernetesクラスター内の本番障害を修復するプラットフォームを発表し、1000万ドルのプレシード資金を調達した

NEWSiliconANGLE AI4時間前

SK海力士定制HBM推升推理性能5.15倍

SK海力士はSEMICON Taiwan 2026で、ベースダイに演算機能を組み込んだカスタムHBMの構想を発表

NEWDIGITIMES Asia4時間前

エヌビディア決算、統合回避戦略で退屈な内容に

エヌビディアの決算は注目に値する一方で退屈な内容となり、統合された世界を避ける姿勢が反映された

NEWStratechery (Ben Thompson)4時間前

Anthropic、Lambdaと$35bnクラウド契約

AnthropicがNvidia支援のクラウド事業者Lambdaと、$35bnのクラウドコンピューティング契約を結んだ

NEWYahoo Finance AI4時間前

最高裁、民事裁判でAI活用へ実証

最高裁判所は2027年度予算案にAI関連費用として約6000万円を計上

NEWJapan Times Tech4時間前

投資詐欺対策にAI導入へ

消費者庁は24日、全国の消費生活センターに寄せられる年間約90万件の相談を生成AIで分析し、詐欺の手口や事業者の経営破綻の早期サインを検出すると発表した

NEWJapan Times Tech4時間前
次の記事へOpenAI共同創業者Greg Brockmanが法廷で$30 billion規模の株式保有を擁護、Muskとの訴訟で「血、汗、涙」を投じたと主張