RAGは、社内文書やナレッジベースの内容を検索で取り出し、その根拠を踏まえてLLMに回答させる仕組みです。モデルが知らない情報でも、参照データを与えることで回答の確度と説明力を上げる狙いがあります。問い合わせ対応や社内規程検索、製品ドキュメントのQ&Aなどで採用されやすいです。
処理の流れは、質問をEmbeddingなどで検索クエリに変換し、ベクトル検索や全文検索で関連文書を取得してから、取得結果をプロンプトに添えて生成します。検索精度は「どの単位で文書を分割するか」「メタデータで絞り込めるか」で大きく変わります。回答に引用元や参照箇所を添える設計にすると、利用者が根拠を追いやすいです。
運用では、検索が外れるともっともらしい誤答が出やすいので、評価データと回帰テストで品質を継続監視することが重要です。文書更新に合わせたインデックス再作成や再埋め込み、アクセス権限の反映、監査ログの取得も欠かせません。機密や個人情報を扱う場合は、検索対象の制御と回答内容のガードレールをセットで設計すると安全です。
