AIToday
大規模言語モデルAIビジネス・産業ASCII.jp掲載日時: 2026年11月18日 19:01

FlashLabs、コード変更なしでトレース出力

LINEで送る
FlashLabs、コード変更なしでトレース出力

3つのポイント

  1. 何が起きたか

    FlashLabsがOrcaRouterゲートウェイのTrace Exportを強化し、SDKやコード変更なしでAIリクエストのトレースをGrafana、Datadog、Langfuse、LangSmithへリアルタイム出力可能にした。

  2. なぜ重要か

    AIエージェントを本番運用するチームが、トレース送信用のコードを追加せずに、既存ツール上でレイテンシやコスト、エラー、ルーティング結果を確認できるようになる。

誰に効くか恩恵が大きいのは、生成AIアプリを本番運用するエンジニアリングチームと運用チームだ。コードに触れずにリクエスト単位のトレースを既存のダッシュボードへ送れるため、モデルのレイテンシやコスト、エラーの監視導入のハードルが下がる。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

新機能は、AIエージェントや生成AIアプリを本番運用する際の実務上の課題に対応するものだ。これまで実行トレースを外部の監視ツールへ送るにはSDKの組み込みやコード変更が必要で、導入のハードルが高かった。Trace Exportでは、管理コンソールで出力先を選び、エンドポイントやアクセストークンなどの接続情報を入力するだけで、リクエスト単位のデータ(モデル、プロバイダー、トークン数、コスト、レイテンシ、ステータス、APIキー名、ユーザーID)を送信できる。プロンプトと補完のテキストは送信前にData Cloakが自動でマスクする。

応答速度への影響も抑える設計だ。トレースは各リクエストの完了後に送信されるため、ゲートウェイが応答を遅らせることはない。出力先のアクセストークンなどの接続情報は暗号化して保存され、サンプルレートの設定やテストトレースの送信も可能だ。

OrcaRouterは米国の研究機関Continuum AIが開発し、FlashLabsが日本で独占的に提供している。Anthropic、OpenAI、Google Gemini、DeepSeek、Grok、Qwenなど200以上のLLM・生成AIモデルへのアクセスを集約するOpenAI互換APIを備える。同社は、モデル呼び出しを可視化する運用機能の拡充も進めており、馴染みのある監視ツール上でモデル選択やルーティング、コスト管理の判断ができるようにするとしている。

よくある質問
Trace Exportの利用にSDKのインストールやコード変更は必要ですか。
不要だ。SDKのインストールもコード変更も必要なく、管理コンソールで出力先を選び接続情報を入力するだけで利用できる。
どの監視ツールにトレースを送れますか。
Grafana、Datadog、Langfuse、LangSmithに対応しており、FlashLabsは対応ツールを今後拡充するとしている。
送信するデータ量は制御できますか。
できる。サンプルレートを1%から100%まで設定でき、テストトレースを送信して接続を確認することも可能だ。
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

次の記事へ日本スポーツ振興センターと富士通、体操の骨格認識AI共同研究を開始