GitHub Copilotが長いやり取りの中でトークン（AIが処理する情報の単位）を効率的に使い、タスクに応じて最適なAIモデルを自動選択する機能を強化しました。

何が起きたか

GitHub Copilot for VS Codeで、プロンプトキャッシング（繰り返される情報の再利用）とツール検索（必要な機能だけを動的に読み込む）の2つの機能により、セッション中に何度も送る必要があった情報を削減しています。また、Auto機能が短い説明、絞り込まれた編集、複数ファイルの変更など、タスクの種類に応じて異なるAIモデルを自動で選択するようになりました。

なぜ重要か

Copilotがより長く、複雑な作業に対応していくなかで、単なるトークン削減だけでなく、限られたリソースをより賢く使うことが求められています。評価では、どのモデルもすべてのタスクで最高の性能を発揮するわけではなく、簡単なタスクでは低機能で十分な場合がある一方、難しい作業では高性能が必要になることが分かりました。そのため、タスクに応じたモデル選択により、品質を損なわずにコストを最適化できるとみられます。

注目点

Auto機能は既にVisual Studio Code、github.com、モバイルで稼働しており、今後Copilot CLI、GitHub App、追加のIDEに拡大される予定です。また、Copilot Free と Student プランでは Auto が唯一のモデル選択肢に統一される、ということです。