AIToday
大規模言語モデルDaily Dose of Data Science掲載日時: 2026年10月1日 1:00

OracleのAIメモリ、1,300トークンに削減

LINEで送る
OracleのAIメモリ、1,300トークンに削減

3つのポイント

  1. 何が起きたか

    Oracleの80ターン評価でOracle AI Agent Memoryはリクエストあたり約1,300トークンに抑えた。フラット履歴は13,900トークン超。48勝対13勝(引き分け19)。

  2. なぜ重要か

    完全な履歴を再送せずにセッション状態を保つエージェントは、フラット履歴に頼るものよりリクエスト単価を抑えられ、コンテキスト上限にも余裕を持てる可能性が高い。

  3. 注目点

    この評価はOracle自身が文書化したテストであり、他のワークロードやメモリポリシーでは結果が異なりうる。内部評価ではなく外部ベンチマークでの性能に注目したい。

誰に効くか長時間稼働するサポートやワークフローのエージェントを構築する企業のAIチームは、過去のメッセージをすべて再送するか、Oracleのような管理メモリ層を採用するかの選択を迫られている。このトークン差はAPI請求額と、コンテキストが尽きるまでにエージェントが扱えるターン数の両方に影響する。

わからないところ、AIに聞けます

質問と回答はこのページに公開されます。

こういう要約が、毎朝あなたのメールに届きます。

背景と解説

記事は単純な事実から始まる。LLMはステートレスである。過去のメッセージを記憶しているように見えるのは、アプリケーションがリクエストごとに以前のメッセージを再送しているからにすぎない。その保存された履歴なしに新しいセッションを開始すれば、あらゆる好み、決定、過去の結果が消える。提案される解決策は、セッション中の短期作業状態と、セッションをまたいで持続する長期記憶という2つのスコープに分かれたメモリ層である。長期記憶はさらに意味記憶、エピソード記憶、手続き記憶に分類され、それぞれに異なる書き込みと検索のポリシーが必要となる。

Oracleが文書化した80ターン評価が、提示される具体的な証拠である。管理メモリのエージェントはリクエストあたりの入力を約1,300トークンに保ったが、フラット履歴は最終ターンで13,900トークンを超えた。また評価対象ターンでは48勝を挙げ、フラット履歴の13勝(引き分け19)を上回った。説明されるメカニズムは重みの更新ではない。周囲のシステムが状態を保存、更新、検索することで適応するため、モデル自体は変わらない。

RAGパイプラインについて、記事はJevを検索と生成の間の評価ステップとして位置づける。Jevが候補をスコアリングすることで、プロンプトではなくアプリケーションコードがどのパッセージをコンテキストウィンドウに届けるかを決める。これがコスト、回答の信頼性、監査可能性のどれにとって最も重要かはワークロード次第だが、本文はその価値を、チームが記録、テスト、閾値設定できる型付き確率として関連性を扱えるようにすることだと位置づけている。

よくある質問
RAGにおいてJevは何に使われるのか?
Jevは検索されたパッセージがクエリに答える証拠を含むかどうかをスコアリングし、それぞれに確率を返す。どのパッセージが関連性の閾値を超えてLLMのコンテキストに入るかは、アプリケーション側が判断する。
Jevは検索や生成を置き換えるのか?
いいえ。検索は候補集合を見つけ、LLMは答えを書く。Jevは検索と生成の間に位置し、どのパッセージに有用な証拠が含まれるか、保持された集合が答えを支えられるかをスコアリングする。
Jevはプロンプトインジェクションを検出できるか?
Jevは候補パッセージにプロンプトインジェクションの兆候がないかスコアリングできるが、そのスコアはセキュリティ境界ではなく、入力の分離やツール権限の代替にはならないと記事は述べている。
Daily Dose of Data Science元記事を読む
LINEで送る

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

AIに質問

この記事についてわからないことをAIに質問できます。AIはこの記事・AIToday の過去記事・Wikipedia を読み、出典を付けて答えます。Q&Aはこのページに公開され、他の読者も読めます。

質問と回答はこのページに公開されます。

このようなAIの動きを、御社の業界・競合に合わせて毎日届ける法人プランもあります → 詳しく見る

関連記事

FlashLabs、コード変更なしでトレース出力

FlashLabsがOrcaRouterゲートウェイのTrace Exportを強化し、SDKやコード変更なしでAIリクエストのトレースをGrafana、Datadog、Langfuse、LangSmithへリアルタイム…

ASCII.jp6時間前

SamuraiAX、ヤマト運賃をAIで取得するAPI連携

KivaのSamurai Appに、ヤマト運輸「ビジネスメンバーズ」の顧客コードへログインし運賃と請求金額を取得、複数コード・複数月の運賃CSVを一括ダウンロードできるAPI連携を追加

ASCII.jp6時間前

NotionのAIチャット流出おそれ、幹部が日本での対応状況明かす

Notion LabsのCISOデイビッド・ツァオ氏は、11月2日のFireworks AIへの不正アクセスでNotion AI Insightsのチャット記録が流出した可能性を受け、11月12日に影響を受けた日本顧客へ…

ITmedia AI+6時間前

川崎重工、神戸須磨シーワールドでAIカメラ人流分析の実証

川崎重工業は11月16日、神戸須磨シーワールドでAIカメラによる実証実験を行うと発表した

AI Watch (Impress)6時間前

SwitchBot、GPT対応スマートリモコン「ハブ4」予約販売開始

SwitchBotはスマートリモコン「Hub 4」の予約販売を11月18日に19,980円で開始した

AI Watch (Impress)6時間前

CodeRabbit、GPT-6 Cyberをセキュリティ製品に統合

CodeRabbitはOpenAI Daybreak Defense Networkに参加した

PR TIMES (AI)9時間前
次の記事へInnodata、Vicon導入ラボ開設