投稿する
マガジン
著者：アソバース編集部公開：更新：約8分で読めます

LlamaIndexとLangChainでRAGを試作する：役割の違いと選び方

AIを使いこなす

Claudeで執筆し、GPTで自動校閲・修正しています。

表を含む資料の該当箇所に付箋を貼り、検索結果の根拠を確認する手元
記事の内容をもとに制作したAI生成イメージです。実際の製品画面や検証結果の写真ではありません。

結論から言うと、どちらかが優れているという選び方はおすすめしません。社内資料をどう読み込み、どう探し、どこまで他の仕組みとつなぐかのうち、いちばん手間がかかりそうな部分を手厚く支える方を試作に選ぶのが現実的です。 公式ドキュメントの書き方から見ると、LlamaIndexは「自分のデータの上でLLMエージェントを作る」ことを前面に出し、PDFなどの取り込み、インデックス、クエリエンジン、評価までを一続きで説明しています。LangChainは、ローダー、分割、埋め込み、ベクトルストア、リトリーバーを部品として差し替えながら組み、必要ならエージェントにつなぐ構成を説明しています。 つまり、資料の読み込みと検索の精度を詰めたいならLlamaIndex、既存システムやツール連携の中にRAGを組み込みたいならLangChainから試す、というのが出発点です。ただしこれは公式ページの記述を読んだうえでの編集上の整理で、実際に両方を動かして比べた結果ではありません。以下で観点別に分けます。

この記事の目次
  1. 比較観点表：取り込み・検索・連携・評価
  2. 選び方：任せたい領域で決める
  3. 試作から評価までの最小手順
  4. 評価用の質問表と依頼文
  5. 試作後の判断基準

比較観点表：取り込み・検索・連携・評価

次の表は、公式ドキュメントで確認できた説明と、試作で何を見るべきかを並べたものです。

  • 取り込み、LlamaIndexの公式説明：LlamaParse(エージェント型OCR)やLiteParse(ローカル処理)でPDFやスプレッドシートから構造化データを抽出すると説明、LangChainの公式説明：Document Loadersで外部ソースを取り込み、Text Splittersで検索単位に分割、試作で確かめること：表・図入りPDFが崩れずに文章化されるか
  • 索引・検索、LlamaIndexの公式説明：VectorStoreIndexなど複数のインデックスを「組み合わせ可能な部品」として提供、LangChainの公式説明：埋め込み、ベクトルストア、リトリーバーを部品化し、差し替えても上位のアプリを書き直さずに済む設計と説明、試作で確かめること：同じ質問で正しい資料の該当箇所が上位に出るか
  • 回答生成、LlamaIndexの公式説明：クエリエンジンとチャットエンジンで検索結果を合成して回答、LangChainの公式説明：検索を必ず先に行う「2ステップ」、LLMが検索の要否を判断する「エージェント型」、両者を組み合わせた「ハイブリッド」を区別、試作で確かめること：根拠の出典を回答に付けられるか、資料外の質問で「分からない」と言えるか
  • 連携、LlamaIndexの公式説明：複数ツールを使うエージェントにRAGを含められる、LangChainの公式説明：エージェントや他ツールとの接続を前提とした部品構成。Deep AgentsのRAGチュートリアルではLangSmithでのトレース設定を案内、試作で確かめること：社内の認証、既存DB、チャット基盤とつなぐ際の手間
  • 評価、LlamaIndexの公式説明：応答評価(正確さ、根拠への忠実さ、質問への関連性など)と、検索単体の評価(MRR、ヒット率、適合率)を用意、LangChainの公式説明：今回開いた資料では評価機能の詳細は確認していません、試作で確かめること：自前の質問表で、検索と回答を分けて採点できるか

出典:LlamaIndex公式の概要、LlamaIndexの評価ガイド、LangChain公式のDeep Agents RAGチュートリアル、LangChain公式のRetrieval解説。2026年10月29日の自動校閲で各ページの本文を確認しました。LangChainの旧リンクはDeep Agents配下へ転送されるため、転送先を掲載しています。両ライブラリは更新が速いため、試作の前に最新の導入手順を確認してください。

選び方：任せたい領域で決める

資料の読み込みで詰まりそうな場合

契約書のスキャンPDF、表の多い仕様書、スプレッドシートが中心なら、取り込みの比重が大きくなります。この場合は取り込みから評価までを一続きで説明しているLlamaIndexから始めると、最初の迷いが少ないはずです。

既存の仕組みに組み込みたい場合

すでにエージェントや社内ツールがあり、「必要なときだけ資料を引く」動きにしたいなら、LangChainのエージェント型やハイブリッドの考え方が合います。ただしLangChain自身が、エージェント型は柔軟な反面、制御しにくく応答時間が一定でないと整理しています。FAQや文書ボットのように振る舞いを固定したいなら、2ステップ型が向いています。

迷う場合

部品が小さい方を選ぶと、後で入れ替えやすくなります。両方とも「後から埋め込みモデルやベクトルストアを替えられる」ことを売りにしているので、最初の選択を過度に重く考えなくて大丈夫です。重いのは、ライブラリの違いよりも対象資料の質と評価用の質問表です。

試作から評価までの最小手順

コードは書かず、判断と作業の順序だけを示します。

  1. 対象を絞る:資料を10〜30件程度に限り、機密や個人情報を含むものは外します。試す段階では、説明用のダミー資料に置き換えても構いません。
  2. 質問表を先に作る:ライブラリを選ぶ前に、20問程度の質問と「正解が載っている資料名・箇所」を人が決めます。
  3. 取り込む:選んだ方で資料を読み込み、表や見出しが崩れた箇所を数件、目で確認します。
  4. 検索だけを確認する:回答を作らせず、質問ごとに上位に出た資料の箇所を記録します。正解の箇所が入っていたかを○△×で付けます。
  5. 回答を確認する:根拠付きで回答させ、正確さと、資料にないことを言っていないかを人が採点します。
  6. 失敗を分類する:「取り込みの崩れ」「検索で外した」「回答で言いすぎた」に分け、多い分類に対応する領域を強い方のライブラリで見直します。

LlamaIndexは検索単体の評価と応答の評価を分けて説明しています。この分け方は、どちらのライブラリを選んでも手順4と5でそのまま使えます。

評価用の質問表と依頼文

質問表の形(説明用の例)

以下は架空の就業規則を想定した例で、実測の結果ではありません。

  • 1、質問：在宅勤務の申請は何日前までに必要ですか、正解の根拠：勤務規程 第○条、種類：事実確認
  • 2、質問：出張時の宿泊費の上限はいくらですか、正解の根拠：旅費規程 表2、種類：表の読み取り
  • 3、質問：副業の届出先はどこですか、正解の根拠：(資料に記載なし)、種類：答えがない質問

「答えがない質問」を5問ほど混ぜると、資料外で推測して答える癖を確認できます。

質問候補を出させる依頼文

質問の下書きにAIを使う場合は、次のように依頼します。出てきた質問と正解箇所は、必ず人が資料と照合してから採用してください。

以下は社内規程の説明用ダミー資料です。この資料だけを根拠に、
社員が実際に尋ねそうな質問を15問作ってください。
各質問に、答えが載っている見出し名、質問の種類(事実確認/表の読み取り/複数箇所の統合)を付けてください。
加えて、資料に答えがない質問を5問作り、「記載なし」と明記してください。
資料にない内容は推測で補わないでください。

試作後の判断基準

数字の合格ラインは組織ごとに決めるものなので、ここでは固定しません。見るべきは次の三点です。

  • 手順4で外した質問が、特定の資料種別(表、スキャン、長文)に偏っていないか
  • 答えがない質問で、推測の回答が出ていないか
  • 同じ質問表を、もう一方のライブラリにそのまま流して比べる価値があるか

偏りが取り込みに出ているなら取り込み機能を、連携や制御の問題なら部品構成とエージェントの扱いを基準に再選定します。同じ質問表があれば、乗り換えの判断も数値でなく根拠付きの記録で行えます。

出典・参考資料

マガジン一覧に戻る