RAG委託は検索設計と権限制御を確認

ガイドの出発点は単純な観察だ。LLMのAPIを呼ぶのは速いが、企業AIシステムを本番運用すると認証、認可、データ処理、システム連携、監視が加わる。この差を図で示す。フロントエンドからLLMのAPIを呼ぶだけの構成と、データ取り込み・解析から検索インデックス、権限チェック、回答生成までを貫く社内文書検索の構成を対比する。

RAGでは作業を三つに分けて確認する。PDF、Officeファイル、Wiki、CRM/ERPからデータをどう取得し前処理するか。キーワード、ベクトル、ハイブリッド、リランキングの中から検索方式をどう選び、その理由は何か。アクセス権をプロンプトだけでなく検索層とアプリ層でどう強制するか。一般社員が検索できてはならない人事文書を例に挙げる。

AIエージェントでは、外部システムを操作する権限をエージェントに与えるにはチャットボット以上に慎重な設計が要ると強調する。使えるツールの制限、API呼び出しの認証、入力の検証、結果の記録、重要操作での人による承認が含まれる。すべての業務がエージェント向きではなく、安定したルールベースのワークフローの方が適する場合もあるため、ベンダーは代替案ではなくエージェントを選んだ理由を説明すべきだとする。同じ論理はベンダー選定にも当てはまる。社名とサービスページだけでは足りず、実際の要件に対してパートナーがどんな設計と実装を提案するかを尋ねるべきだ。