エージェント型RAGを意思決定モデルで構築

このチュートリアルは、意思決定モデルをエージェント型RAGの2つの課題の解決策として位置づけている。取得した証拠が不十分な時点を把握することと、その判断に基づいて行動することだ。生成モデルと異なり、意思決定モデルは関連度スコアや確率といった構造化された判断を返し、アプリケーションはそれを使って応答を生成したり人間にエスカレーションしたりする。

構築では、バックエンド、データベース、認証、人によるレビューのワークフローにInsForgeを、マルチモーダル埋め込みにEmbeddingGemma 2を、通過文のスコアリングと回答可能性の評価にLiquid AIのd1-3Bを使う。Lightning AI StudioのFastAPIサーバーが埋め込みモデルと意思決定モデルをホストし、両モデルはNVIDIA L4 1基に収まり、GPUメモリを約7.2 GB使用する。

評価では4つのケースにまたがる75件のラベル付き質問で3つのRAGパイプラインを比較した。意思決定ゲートは最高精度で、画像のみの質問でも性能を維持した唯一のパイプラインだった。一方、BGEリランカーは誤答を避けたものの画像ベースの質問を苦手とし、その大半をエスカレーションした。これは意思決定モデルが通過文のランク付け以上のことができることを示唆する。視覚的な証拠が回答を支えるかどうかも判断できるのだ。ただし結果は単一のチュートリアル試験によるものだ。