OpenSmith、ローカルLLMパイプライントレース

OpenSmithはOllamaとOpenAIの関係に着想を得たオープンソース、ローカルファースト型LLMパイプライントレースツール。プライバシーと独立性をコア価値とする。クラウドアカウント必須、トレースをホストサービスに送出、LangChainエコシステム内での利用が最適なLangSmithと異なり、OpenSmithはpipでインストール、あらゆるPython LLMコードに対応、すべてのトレースデータをSQLite（またはオプションでPostgres）にローカル保存して開発者のマシンから一切のデータが流出しない。ツールはコード計装の3つの方法を提供。@traceデコレータは同期・非同期関数に適用でき、オプションでタグとトークン予算を指定可能。コンテキストマネージャーは特定のコードブロック内で手動トレース可能。autopatch()は対応バックエンドを自動パッチしてコード変更なしで機能。構成は作業ディレクトリのopensmith.jsonで実施。開発者はデータベースパス設定、コンソールモード有効化（トレース完了時に端末出力）、オートパッチ対象バックエンド指定が可能。ローカルウェブダッシュボードはlocalhost:7823で起動し、同ポートが使用中なら代替ポート自動選択。コマンドラインインターフェイスはコンフィグ初期化（opensmith init）、ダッシュボード起動（opensmith ui）、クエリ・タグ・ステータスでトレース一覧・フィルタリング（opensmith traces）、統計情報表示（opensmith stats）、トレースのJSON・CSV書き出し（opensmith export）、保存済みトレース全消去（opensmith clear）に対応。サポートバックエンドはOpenAI、Anthropic、LiteLLM、Qdrant、Chroma、Pinecone。トレースはデフォルト~/.opensmith/traces.dbに保存だが、opensmith[postgres]バリアントをインストール後OPENSMITH_DB_URL環境変数を設定することでPostgresにリダイレクト可能。OpenTelemetryエクスポートはopensmith[otel]インストールバリアント経由で利用可能で、外部OTLPエンドポイント（/v1/tracesでトレース、/v1/metricsでメトリクス送信）への転送を実現。MITライセンス、無料オープンソース。

OpenSmithはLLMデバッグ・モニタリング領域でLangSmithのローカルファースト、プライバシー保護型代替ツールとして位置づけられている。コアトレードオフは明確だ。LangSmithはLangChainエコシステムに密結合したクラウドホスト型サービスを提供し、OpenSmithは利便性をトレードオフに完全なローカル制御、ベンダーロックイン排除、データプライバシー保証を得る。ツールは開始摩擦を低減する設計。クラウドアカウントセットアップ不要、Dockerも不要、シンプルなPythonデコレータまたはコンテキストマネージャーで統合できる。本文の比較表は、LangSmithがクラウドアカウントを必須としてホストインフラにトレースを送出するのに対し、OpenSmithはpipのみ必須で開発者のマシン上で完全実行される点を明示している。プライバシー敏感、コスト意識、複数フレームワーク横断で作業するLLMアプリケーション開発チームにとり、ローカルファーストモデルは大きな摩擦を除去する。サポートバックエンド（OpenAI、Anthropic、LiteLLM、Qdrant、Choraなどベクトルデータベース）は最も一般的なLLMスタック構成要素をカバーし、単一フレームワークより幅広い層を対象設計であることを示唆している。

まだコメントがありません。最初のコメントを投稿しましょう！