Sawtooth Memory、LLMエージェント向け非ブロッキング階層型メモリシステムをリリース

Sawtooth Memoryは、ユーザーメッセージを即座に保存してアプリケーション制御を数ミリ秒で返し、重い要約処理を非同期バックグラウンドワーカーにオフロードする階層型メモリフレームワーク。標準的なLLMメモリシステムと異なり、メインスレッドの凍結を排除する。

L1.5 Entities層で重要事実（UUID、名前、ルール）を不変台帳に抽出してから要約を実行し、「Lost in the Middle」幻覚効果を防止。L0システムプロンプト、L1作業記憶、L2アーカイブから最適化されたコンテキストペイロードを構成する。

ローカルGPUベンチマーク（NVIDIA RTX 5060、phi4-miniモデル、20メッセージ会話）で、メインスレッド遅延が64.15秒から5.70秒に短縮（11.3x高速化）され、ファイナルプロンプトペイロードは506トークンから454トークンに削減（10%低いトークンコスト）。UUID/ファクト再現率は100%保持される。

pip install sawtooth-memoryでインストール可能。Ollama、OpenAI、Anthropic、Google GenAIなどのクラウドAPIに対応。LangGraphネイティブ統合として、SawtoothMemorySaverアダプタがチェックポインター置換として機能する。