AIToday
用語解説

コンテキストウィンドウとは?長い会話でAIが前の話を忘れる理由

著者:(AITODAY プロダクトオーナー)

公開日:最終更新日:

コンテキストウィンドウとは?長い会話でAIが前の話を忘れる理由

この記事でわかること

  • コンテキストウィンドウは、AIが一度に覚えておける文章の量の上限
  • 会話が長くなって上限を超えると、古い部分から忘れたり、要約されたりする
  • 上限が大きくても、詰め込みすぎると大事なところを見落としやすくなる

「100万トークン対応」などAIの発表で必ず出てくるコンテキストウィンドウの意味を、専門用語なしで解説。長い会話で前の話を忘れる理由と、上手な付き合い方。

一言でいうと、コンテキストウィンドウは「AIの作業机の広さ」です。机の上に置ける資料と会話の量には限りがあって、あふれた分は机から落ちてしまいます。

コンテキストウィンドウとは

AIは、答えを書くたびに、机の上にあるもの(指示、渡した資料、それまでの会話、これから書く答え)を全部まとめて読んでいます。この机の広さ、つまり一度に扱える量の上限がコンテキストウィンドウです。

量は「トークン」という単位で数えます。新しいモデルの発表で「100万トークン対応」などと書かれているのは、この机の広さのことです。100万トークンあれば、日本語でも数十万文字以上を一度に扱えます。

なぜ前の話を忘れるのか

会話が続くと、机の上の量はどんどん増えていきます。上限に近づくと、ツールによって次のどれかが起きます。

  • 古い会話から消える:最初のほうで伝えた条件を忘れる
  • 自動で要約される:Claude Code などは、会話を要約して机を空ける機能があります。要約で細かい条件が抜けることがあります
  • それ以上続けられなくなる:「新しいチャットを始めてください」と表示される
ポイント

長い会話の途中で、AIが最初に伝えたルールを守らなくなったら、机からあふれているサインです。大事な条件をもう一度書くか、要点をまとめて新しいチャットで始め直します。

机が広ければ解決?

広いほど便利ですが、それだけでは解決しません。研究では、長い文章の真ん中あたりにある情報ほどAIが見落としやすいことが分かっています(2023年の「Lost in the Middle」という論文が有名です)。

たくさん入るからといって全部詰め込むより、必要な資料だけを渡した方が、正確で、速く、安くなることが多いです。

上手な付き合い方

  1. 話題ごとにチャットを分ける。1つのチャットに何でも入れない
  2. 大事な条件は最初にまとめて書く。途中でバラバラに伝えると忘れられやすい
  3. 毎回守ってほしいルールはファイルにしておく。Claude Code なら CLAUDE.md に書くと、毎回読んでくれます
  4. 資料は関係する部分だけ渡す。長い資料は、探して必要な部分だけ渡す仕組み(RAG)を使うのも手です

よくある勘違い

  • 「AIは前の会話を全部覚えている」:違います。覚えているのは机の上にある分だけです。別のチャットの内容は、メモリー機能などを使わない限り引き継がれません。
  • 「コンテキストウィンドウが大きいAIほど賢い」:別の話です。机の広さと、頭の良さは関係ありません。

まとめ

コンテキストウィンドウは、AIが一度に扱える量の上限です。長い会話で前の話を忘れるのは、この上限からあふれているからです。話題ごとにチャットを分け、必要な情報だけを渡すと、AIはずっと正確に動いてくれます。

次に読む

よくある質問

Q. ChatGPT のメモリー機能とは違うのですか?
A. 違います。コンテキストウィンドウは今の会話の中で扱える量のことで、メモリー機能はチャットをまたいで覚えておいてほしいことを別に保存しておく仕組みです。
Q. 自分が使っているAIのコンテキストウィンドウはどのくらいですか?
A. モデルや料金プランによって違い、更新も多いので、各社の公式ページで確認してください。同じAIでも、無料プランと有料プランで違うことがあります。
Q. 上限に近づいているかは分かりますか?
A. ツールによります。Claude Code のように残りの量を表示してくれるものもありますが、チャットアプリでは表示されないことが多いです。

出典:Liu ほか「Lost in the Middle: How Language Models Use Long Contexts」(arXiv, 2023年)

あなたの仕事に関係するAIニュースを、毎朝お届けします。

業界と使っているAIツールを選ぶと、仕事に関係するニュースが毎朝届きます。

登録無料・Googleアカウントなら30秒・いつでも解除できますAITodayについて →

関連記事