社内資料のAI検索をやらない判断:RAGを導入しない方がよい5つの場面
AIを使いこなすClaudeで執筆し、GPTで自動校閲・修正しています。

結論から言うと、次の5つのどれかに当てはまるなら、RAG(検索した資料をAIに渡して回答を作らせる仕組み)を作る前に別の手段を検討する価値があります。 1. 質問が少数の定型に集中している 2. 求めているのが「答え」ではなく「文書そのもの」である 3. 資料の正本が決まっておらず、古い版や矛盾した版が混在している 4. 文書ごとの閲覧権限をAIの検索側で再現できない 5. 回答が個別の事情や例外判断に左右され、誤りのコストが高い RAGは「質問の言い回しと文書の用語がずれる」「資料が多く、全部はAIに渡せない」場合に力を発揮します。逆に、そこが困りごとでなければ、全文検索やFAQ整備、担当者への確認のほうが安く確実なことがあります。この記事では、各場面の見分け方、導入可否を点検する質問リスト、代替手段との比較表を順に示します。
RAGが解く問題と、解かない問題
MicrosoftのAzure AI SearchのRAG解説は、RAGの課題として、曖昧な質問の理解、複数データ源へのアクセス、トークン量の制約、応答時間、アクセス制御を挙げています。例えば、ユーザーが「在宅勤務者の休暇規程」を尋ねても、文書に「休暇」「テレワーク」など異なる表現が使われていれば、検索で関連箇所を見つけて回答の根拠にすることがRAGの役割です。
一方、資料が整っていない、権限が整理されていない、質問がそもそも定型、といった問題はRAGでは解けません。検索の仕組みを足しても、元の資料の状態は変わらないからです。
見送りを検討する5つの場面
1. 質問が少数の定型に集中している
問い合わせの大半が「経費精算の締め日」「備品の申請先」など10〜20種類程度に収まるなら、FAQを整備して見やすい場所に置くほうが先です。回答を人が確認して固定できるので、AIが言い回しを変えて誤る余地もありません。FAQを作る下書きにAIを使うのは有効です。
2. 欲しいのは答えではなく文書である
「規程番号が分かれば原文を読みたい」「型番や取引先名でファイルを探したい」といった用途は、全文検索が得意です。Azure AI Searchの紹介ページは、従来型の検索では単一のインデックスに直接問い合わせ、LLMによる計画や回答生成を行わずに文書を返す仕組みを説明しています。したがって、文書を探して開く用途なら、まず全文検索で足りるかを試せます。
3. 資料の正本が決まっていない
同じ規程の旧版と新版がフォルダに並んでいる、部署ごとに運用が違うのに文書が一つしかない、という状態でRAGを作ると、AIは古い版や矛盾する版を根拠に答える可能性があります。先にやるべきは、正本の指定、版管理、廃止資料の退避です。これはAI導入より前の整理作業で、全文検索の精度にも効きます。
4. 文書ごとの閲覧権限を再現できない
前述のMicrosoft解説でも、AIに非公開の資料を開く場合は、ユーザーが許可された内容だけを取得できる粒度のアクセス制御が必要だとされています。例として挙がっているのは、経理の資料を経営層がチャットボット経由で聞いても、権限のない人には出さない、という要件です。利用するサービスが元の権限を引き継げるのか、検索時のフィルタを自前で作るのかは、導入前に確認が要ります。ここが曖昧なら、公開してよい資料だけに範囲を絞るか、見送るのが安全です。
5. 個別事情・例外の判断が回答の中身になる
「この契約は例外扱いにできるか」「この従業員の場合は」といった問いは、資料に書いてある一般則だけでは答えが決まりません。AIが資料の条文を要約して返すと、もっともらしく見える分、誤りに気づきにくくなります。この種の質問は、担当者に確認する導線(宛先、必要情報、回答期限)を整えるほうが現実的です。AIは、質問内容を整理して担当者に渡す文面づくりに使う程度が無難でしょう。
導入可否を点検する質問リスト
以下に答えてください。「はい」が付いた項目の対応を先に行います。
- 1、質問:直近の問い合わせの7割以上が、20種類以内の質問にまとめられますか、「はい」の場合の方針:FAQ整備を先に行う
- 2、質問:利用者は「答え」ではなく「文書を開くこと」が目的ですか、「はい」の場合の方針:全文検索で足りるか試す
- 3、質問:同じ内容の資料に複数の版があり、正本を即答できませんか、「はい」の場合の方針:資料の整理を先に行う
- 4、質問:資料の更新担当者と更新頻度が決まっていませんか、「はい」の場合の方針:運用が決まるまで見送る
- 5、質問:文書ごとの閲覧権限が異なり、検索側で再現する方法が未確認ですか、「はい」の場合の方針:公開可能な範囲に絞るか見送る
- 6、質問:回答に例外判断や個別事情が必要な質問が多いですか、「はい」の場合の方針:担当者確認の導線を整える
- 7、質問:誤った回答が業務や契約に直結しますか、「はい」の場合の方針:人の確認を必須にできないなら見送る
- 8、質問:全資料を合わせても、AIに一度に貼れる程度の量ですか、「はい」の場合の方針:RAGを作らず、資料を直接渡す運用を試す
8番は量の見積もりが必要です。使うモデルの入力上限は製品とプランで変わるため、導入時に利用するサービスの最新仕様で確認してください。
点検をAIに手伝わせる依頼文
質問リストの1番を判断するには、実際の問い合わせを分類するのが近道です。次の依頼文は、そのままAIチャットに貼って使えます。
以下は社内ヘルプデスクへの問い合わせ文です(個人名・社名は伏せてあります)。
1. 質問の内容ごとに分類し、種類ごとの件数を表にしてください。
2. 上位の質問について、(a) FAQで固定回答できる、(b) 文書の場所を示せば足りる、
(c) 個別事情の確認が必要、のどれかを理由つきで判定してください。
3. 判定に自信がないものは、その旨を明記して一覧にしてください。
問い合わせ文:
(ここに30〜50件を貼る)貼る前に、個人名、取引先名、金額、社内システムのURLなどは伏せ字に置き換えてください。サービスの学習利用設定と、社外に出してよいかという秘密保持の判断は別問題です。社内規程に従って扱いましょう。
AIの分類は下書きです。人が数件を抜き取って、分類が妥当かを確認してください。
以下は、結果の見方を示す「説明用の例」で、実際の測定結果ではありません。
- 40件のうち、締め日・申請先・申請方法で28件 → 定型が多いのでFAQを先に作る
- 規程の原文を探す依頼が8件 → 全文検索の改善で足りる可能性
- 個別判断が必要なものが4件 → 担当者確認の導線へ
この配分なら、RAGの優先度は低いと判断できます。
代替手段との比較
- RAG、向く場面:言い回しがばらつく質問が多く、資料量も多い、向かない場面:資料が未整理、権限が複雑、誤りが許されない、用意するもの:整理済みの資料、更新の仕組み、権限設計、評価用の質問、人が確認すること:回答と引用元の一致、権限漏れ
- 全文検索、向く場面:規程番号・型番・固有名詞で文書を探す、向かない場面:言い換えが多い曖昧な質問、用意するもの:検索対象の整理、更新の仕組み、人が確認すること:目的の文書が上位に出るか
- FAQ整備、向く場面:同じ質問が繰り返される、向かない場面:質問が多様で長尾が大きい、用意するもの:質問の分類、回答の担当者、人が確認すること:回答内容の正確さ、定期的な見直し
- 担当者への確認、向く場面:例外判断や個別事情が必要、向かない場面:件数が多く担当者が詰まる、用意するもの:宛先、必要情報の書式、回答期限、人が確認すること:担当者の負荷と待ち時間
- 資料を直接貼る、向く場面:資料が少なく、利用者も限られる、向かない場面:資料が多い、権限が分かれる、用意するもの:最新版の資料、貼る範囲の決め、人が確認すること:古い版を貼っていないか
全文検索やFAQで足りない部分が見えてきたら、RAGに進む判断材料が揃います。その場合でも、いきなり全社展開にせず、公開してよい資料の一部で、実際の質問30件ほどを使って、回答と引用元を人が見比べる試験から始めるのが堅実です。OpenAIのFile searchのように、ファイルをベクトルストアに入れてセマンティック検索とキーワード検索を使えるホスト型ツールもあります。検索機能を試す選択肢ですが、資料の正本、権限、評価方法は導入前に確認してください。
見送った後にやること
見送りは「やらない」ではなく「順番を変える」判断です。次の順に進めてください。
- 問い合わせを分類し、上位の質問をFAQに起こす(AIは下書きに使う)
- 正本と廃止資料を決め、版管理のルールを置く
- 全文検索で文書にたどり着けるかを確認する
- それでも残る困りごとだけを、RAGの試験対象にする
この手順で残った課題が、RAGで解く価値のある課題です。

