AIToday

mnemo — ローカルファースト型のAIメモリレイヤー、任意のLLMに対応(Rust、SQLite、petgraph)

Hacker News6時間前2分で読める
mnemo — ローカルファースト型のAIメモリレイヤー、任意のLLMに対応(Rust、SQLite、petgraph)

こういう要約が、毎朝あなたのメールに届きます。

無料で登録 →

3つのポイント

  1. 1

    zaydmulani09が開発。LLMが会話終了時に情報を忘れるという問題を解決するため、テキストから名前付きエンティティと関係性を抽出し、SQLiteで永続的なナレッジグラフを構築し、関連するコンテキストを将来のプロンプトに自動注入するサイドカーサービス。

  2. 2

    Ollama(完全ローカル、無料)、OpenAI、Anthropic、またはOpenAI互換APIのいずれでも動作。6段階のパイプライン(テキストチャンク全文検索 → エンティティ名検索 → グラフ拡張 → 関係フィルタ → スコアリング・ランキング → コンテキストプロンプト組立)で50ms以下で処理を実行。

  3. 3

    クラウド依存なしの単一静的バイナリで提供。REST API(/ingest、/retrieve)、CLI、Python SDKを備える。

  4. 4

    Apple M2でのベンチマーク結果:フル検索パイプラインの平均レイテンシ ~4.2 ms、スループット ~238 ops/s。リリース版ビルドはデバッグ版比で3–5倍高速。

ディスカッション

まだコメントがありません。最初のコメントを投稿しましょう!

ログインして議論に参加

関連記事

AIニュースを毎日お届け

200以上のソースから厳選したAIニュースを毎日無料でお届けします。

無料で始める

登録無料・30秒で完了・いつでも解除できます

毎朝5分、AIの要点だけ。

200媒体以上・Email/LINE/Slack 対応

無料で受け取る →