AIToday

TokenTamer、LLM API呼び出しのコンテキスト圧縮でトークン使用量を50–80%削減

Hacker News1日前2分で読める
TokenTamer、LLM API呼び出しのコンテキスト圧縮でトークン使用量を50–80%削減

こういう要約が、毎朝あなたのメールに届きます。

無料で登録 →

3つのポイント

  1. 1

    TokenTamerはAIコーディングエージェントとLLM APIの間に入るミドルウェアプロキシ。ASTで解析したコードの背景ファイルを構造的なスケルトンに置き換え、編集対象外の関数本体の送信を削減する。

  2. 2

    Claude CodeやCodex CLIなどのツール対応エージェント向けに、複数回の読み取りを追跡し、古い読み取り結果をスケルトン化しながら最新の読み取りはそのまま保持する「ツール対応圧縮」機能を搭載。

  3. 3

    現在αソフトウェア。単一読み取りセッションではツール圧縮の効果がなく、ファイルの再読み取りが多いほど削減効果が大きい。本番環境でのベンチマークはまだ実施されておらず、現在の数字は合成ペイロードの単体テストに基づく。

ディスカッション

まだコメントがありません。最初のコメントを投稿しましょう!

ログインして議論に参加

関連記事

AIニュースを毎日お届け

200以上のソースから厳選したAIニュースを毎日無料でお届けします。

無料で始める

登録無料・30秒で完了・いつでも解除できます

毎朝5分、AIの要点だけ。

200媒体以上・Email/LINE/Slack 対応

無料で受け取る →