LLMを使わないデバッグ用プラグイン公開

llm-echoは実際のモデルではなくデバッグ支援として存在する。プロンプトをそのまま返すため、開発者はモデル呼び出しの費用や待ち時間なしに、LLMツールが実際に何を送信しているかを確認できる。0.5リリースはこのシミュレーションの隙間を埋めるものだ。バージョン0.5ではツール呼び出し、システムプロンプト、推論トークンがシミュレートされるトークン数に反映されるようになり、報告される数値が実際のモデルで課金される入力により近づいた。Willison氏は今後のLLMリリースに向けたPRのテスト中にこのプラグインを見直したと述べており、トークン計算の変更がそのリリース周辺の自身のテスト需要に起因することをうかがわせる。