
何が起きたか
Oracleの80ターン評価でOracle AI Agent Memoryはリクエストあたり約1,300トークンに抑えた。フラット履歴は13,900トークン超。48勝対13勝(引き分け19)。
なぜ重要か
完全な履歴を再送せずにセッション状態を保つエージェントは、フラット履歴に頼るものよりリクエスト単価を抑えられ、コンテキスト上限にも余裕を持てる可能性が高い。
注目点
この評価はOracle自身が文書化したテストであり、他のワークロードやメモリポリシーでは結果が異なりうる。内部評価ではなく外部ベンチマークでの性能に注目したい。
誰に効くか長時間稼働するサポートやワークフローのエージェントを構築する企業のAIチームは、過去のメッセージをすべて再送するか、Oracleのような管理メモリ層を採用するかの選択を迫られている。このトークン差はAPI請求額と、コンテキストが尽きるまでにエージェントが扱えるターン数の両方に影響する。
こういう要約が、毎朝あなたのメールに届きます。
記事は単純な事実から始まる。LLMはステートレスである。過去のメッセージを記憶しているように見えるのは、アプリケーションがリクエストごとに以前のメッセージを再送しているからにすぎない。その保存された履歴なしに新しいセッションを開始すれば、あらゆる好み、決定、過去の結果が消える。提案される解決策は、セッション中の短期作業状態と、セッションをまたいで持続する長期記憶という2つのスコープに分かれたメモリ層である。長期記憶はさらに意味記憶、エピソード記憶、手続き記憶に分類され、それぞれに異なる書き込みと検索のポリシーが必要となる。
Oracleが文書化した80ターン評価が、提示される具体的な証拠である。管理メモリのエージェントはリクエストあたりの入力を約1,300トークンに保ったが、フラット履歴は最終ターンで13,900トークンを超えた。また評価対象ターンでは48勝を挙げ、フラット履歴の13勝(引き分け19)を上回った。説明されるメカニズムは重みの更新ではない。周囲のシステムが状態を保存、更新、検索することで適応するため、モデル自体は変わらない。
RAGパイプラインについて、記事はJevを検索と生成の間の評価ステップとして位置づける。Jevが候補をスコアリングすることで、プロンプトではなくアプリケーションコードがどのパッセージをコンテキストウィンドウに届けるかを決める。これがコスト、回答の信頼性、監査可能性のどれにとって最も重要かはワークロード次第だが、本文はその価値を、チームが記録、テスト、閾値設定できる型付き確率として関連性を扱えるようにすることだと位置づけている。
業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。
登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →
この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。
このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る
FlashLabsがOrcaRouterゲートウェイのTrace Exportを強化し、SDKやコード変更なしでAIリクエストのトレースをGrafana、Datadog、Langfuse、LangSmithへリアルタイム…

KivaのSamurai Appに、ヤマト運輸「ビジネスメンバーズ」の顧客コードへログインし運賃と請求金額を取得、複数コード・複数月の運賃CSVを一括ダウンロードできるAPI連携を追加

Notion LabsのCISOデイビッド・ツァオ氏は、11月2日のFireworks AIへの不正アクセスでNotion AI Insightsのチャット記録が流出した可能性を受け、11月12日に影響を受けた日本顧客へ…

川崎重工業は11月16日、神戸須磨シーワールドでAIカメラによる実証実験を行うと発表した

SwitchBotはスマートリモコン「Hub 4」の予約販売を11月18日に19,980円で開始した

CodeRabbitはOpenAI Daybreak Defense Networkに参加した
