LLMに代わるRAGとは？
両者の違いや組み合わせるメリット、活用例を紹介

生成AIとは、事前に学習した膨大な量のデータに則り、独自性の高い文章や画像、音声などのコンテンツを生成できる技術です。従来の生成AIは、インターネット上に公開された大量の情報や、あらかじめ用意されたデータセットから学習を行うのが一般的でした。このような従来の学習の仕組みは、LLM（Large Language Models）と呼ばれています。

しかし、近年になって、学習データ外のデータソースから情報を参照できるRAG（Retrieval Augmented Generation）という技術が登場し、生成AIの学習の仕組みが変わろうとしています。

そこで本記事では、RAGとLLMがどのように違うのか、両者の差異を複数のポイントから解説します。また、RAGとLLMを組み合わせるメリットや活用例も紹介しているので、ぜひ参考にしてください。

RAGとLLMの特徴

RAGとLLMは、どちらも生成AIの分野で活用されている技術です。生成AIは、データソースからさまざまなデータ取得し、その傾向から適切な情報を生成する仕組みですが、RAGとLLMによってデータの取得方法が異なります。それぞれの特徴を押さえて、生成AIを適切に活用しましょう。

RAGとは学習データの範囲外からリアルタイムな情報を取得できる技術

RAG（Retrieval Augmented Generation：検索拡張生成）とは、生成AIに検索機能を組み込んだ技術両者の弱点を補い合う仕組みとして、近年注目されています。

従来の生成AIは、主にインターネット上に公開されている大量の情報を学習し、それにもとづいて回答を生成します。しかし、学習していない情報について質問すると、不正確な回答（ハルシネーション）を生成するリスクがあります。

その点、RAGは外部のデータベースから必要な情報を検索し、その内容をもとに回答を生成する仕組みです。未学習のデータを参考に提案や回答を行えるため、常に最新の情報を生成できる、あるいは生成AIの活用の幅が広がるといったメリットが期待できます。

LLMとは膨大な量のデータを学習して自然言語を理解するための技術

LLM（Large Language Models：大規模言語モデル）とは、人間が使う話し言葉・書き言葉（自然言語）のテキストデータをもとに、独自の文章を生成する技術です。従来のモデルと比べ、データ量（LLMを動作させるために必要な計算処理の規模）・計算量（学習に用いられるテキストデータの規模）・パラメータ数（モデルの知識を形成する数値の数）の3つの要素が大幅に向上しています。

これら3つの要素が強化されたことで、LLMは自然言語の処理能力が飛躍的に向上し、文脈やニュアンスの理解が深まりました。代表的なLLMとしては、ChatGPTやBERTがあり、これらのAIはユーザーの質問に対し、自然な会話の流れで応答できます。また、入力された文章に続くフレーズを予測できるのもLLMの大きな特徴です。

RAGとLLMの違い

RAGとLLMの特徴を押さえたうえで、それぞれの違いを理解しましょう。RAGとLLMの違いを把握することで、生成AIの活用方法や使い方を正確に理解できます。以下で複数のポイントに分けて違いを解説します。

データソース

RAGとLLMで大きく異なるのはデータソースです。すなわち、AIが特定の情報を生成するために、どのようなデータを参照したか、どのような手順で情報を取得したかといった点に違いが現れます。

RAGの場合、既存のデータベースや外部の情報源を活用して回答を生成します。まず、事前に準備した情報を数値化し、データベースに保存します。そして、ユーザーからの質問を受けると、そのなかから適切な情報を検索し、回答を作成する仕組みです。

一方、LLMは大量のテキストデータを事前に学習し、それをもとに回答を生成します。RAGのように外部のデータベースを直接参照することはできません。そのため、クローズドな情報を求めた場合、必ずしも正確な回答が得られない可能性があります。

メリット

RAGとLLMには、それぞれ次のようなメリットがあります。

RAGは、信頼できる外部情報を検索し、生成AIと連携させて回答を作成できます。回答結果に疑問を感じた場合は参照元を確認することも可能です。事前学習されていない情報も活用できるため、より包括的で専門性の高い回答を得られます。

LLMは、大量のデータをもとに言語のパターンや構造を学習することで、人間が話す自然な言語でのテキスト生成が実現します。また、特定のタスクに関連するデータを事前に学習していなくても、適切な回答を導き出せるゼロショット学習により、回答の精度を向上できるのも利点です。ゼロショット学習を行うことで、学習にかかる時間や労力を削減できます。

デメリット

RAGとLLMには、それぞれ次のようなデメリットがあります。

RAGは、検索機能と生成機能の両方を兼ね備えているため、データセットの準備やシステムの実装に時間がかかることもあります。さらに、RAGは回答を生成する前に情報検索のプロセスを挟むため、回答速度が遅くなりがちです。必要な情報がすぐに得られないとユーザーの満足度にも影響を及ぼす可能性があります。

LLMはデータセットを定期的に見直さなければ、データそのものの鮮度が落ち、古い情報や誤った情報が出力されるリスクがあります。また、開発過程で悪意のある第三者からサイバー攻撃を受けると、プロンプト（テキストによる指示）に入力した個人情報や機密情報が漏えいする恐れがあるため、適切なセキュリティ対策が欠かせません。

このような両者のデメリットを解消するには、RAGとLLMを組み合わせて活用するのがおすすめです。

RAGとLLMを組み合わせて活用する4つのメリット

生成AIにRAGとLLMの仕組みを組み合わせることで、次のようなメリットが生まれます。

• クローズドかつ独自的な情報を回答に活かせる
• 回答の信頼性や説明可能性が向上する
• 情報漏えいのリスクを抑えられる
• コスト削減につながる

それぞれのメリットについて詳しく解説します。

クローズドかつ独自的な情報を回答に活かせる

通常、LLMはインターネット上に公開されているデータセットをもとに機械学習を行います。そのため、各企業の社内規則や機密性の高い製品情報など、クローズドな情報は学習されていないのが一般的です。このような状態で仮に「自社の就業ルールをまとめる」といった指示を行った場合、インターネット上にある一般的な内容が返ってくることも少なくありません。

一方、LLMとRAGを組み合わせることで、データセット以外の外部データベースの情報を参照できます。社内規則に限らず、業務マニュアルや製品の仕様書、顧客情報などをデータベース化することで、LLM単体では対応できない社内情報や専門的な質問にも、RAGの検索機能を通じて精度の高い回答を提供できるのがメリットです。

回答の信頼性や説明可能性が向上する

LLMは広範なデータをもとに回答を生成しますが、情報源が明示されないことも多く、信頼性に欠ける場合があります。

その点、RAGとLLMを組み合わせた場合、外部の信頼性の高いデータベースやドキュメントから直接情報を取得し、出典を明示しながら回答を生成できるのが特徴です。これにより回答の根拠が明確になり、ユーザーが情報の正確性や信頼性を判断しやすくなります。LLMの説明可能性が向上し、より安心して活用できる環境が整うのも利点だといえるでしょう。

情報漏えいのリスクを抑えられる

学習データに限らず、外部のデータベースから情報を取得できるRAGの特徴を活かすことで、学習過程で状況に応じて企業内の機密情報を含むデータの利用を制限できます。その結果、情報漏えいのリスクを最小限に抑えられます。適切な情報セキュリティ対策とプライバシー保護策を講じることで、安全に生成AIを活用できるだけでなく、ユーザーの個人情報や企業の機密情報を守りながら、効果的な情報提供を実現できる点が大きなメリットです。

コスト削減につながる

従来、LLM単体では最新情報の追加やアップデートが難しいという課題がありましたが、RAGを組み合わせることでリアルタイムな外部情報を取得でき、迅速なアップデートが可能です。これにより、大量の学習データを維持するためにかかるコストや時間を削減できます。

さらに、機密情報の管理にリソースを割く必要もなくなります。RAGの実装によりコスト効率が向上し、生成AIの運用コスト削減につながります。

RAGとLLMを組み合わせた活用例4選

RAGとLLMを組み合わせると、生成AIの活用の幅が広がります。主な活用例について以下で詳しく解説します。

問い合わせ対応

LLMとRAGを組み合わせると、顧客や社内からの問い合わせに対しチャットボットのような回答が可能です。特にカスタマーサポート分野では、業務マニュアルや製品情報、顧客情報、問い合わせ履歴などをデータベースに登録することで、個別にパーソナライズされた対応が実現します。

また、コールセンターにおいては、オペレーターがリアルタイムで顧客への対応方法を検索する活用方法も効果的です。事前に登録された学習データと、リアルタイムで検索した情報を活かし、より質の高い対応を行うことで、顧客満足度の向上や解約防止といったメリットが生まれます。

FAQサイトの構築

社内のデータベースや問い合わせ履歴、顧客対応時のトークスクリプトなどを学習データとして取り込むことで独自のFAQサイトを生成できます。

従来のLLMを用いた生成AIは、主にインターネット上の情報をもとに回答を生成するため、詳細なプロンプトを提供しない限り、よくある一般的な回答が多くなりがちです。しかし、RAGとLLMを組み合わせることで、社内のデータベースや独自のドキュメントを検索し回答をサポートするため、汎用的な回答ではなく、社内独自のルールや業務内容などにもとづいた高精度な回答が得られます。

コンテンツ制作

Webサイトやメールマガジン、SNSなどに掲載するコンテンツを生成するのも活用法の一つです。

従来の生成AIは、学習済みの情報をもとにコンテンツを作成するため、発売前の製品の営業資料や顧客分析レポートといった未公開の情報を用いたコンテンツは生成できません。RAGとLLMを組み合わせた場合、データベースに登録された情報を活用してコンテンツを生成します。データベースに製品情報や顧客データを登録しておけば、営業資料や顧客分析報告書など、クローズドな情報を活かしたコンテンツを作成することも可能です。

情報収集・要約

RAGとLLMを組み合わせて活用する際は、特にRAGの検索機能に注目して、社内資料や情報の管理・検索を行う機会も少なくありません。

各部署に散在する資料をデータベース化して、誰でも閲覧できるようにするには、膨大なデータのなかから必要な情報を探す必要があり、手間や時間がかかります。RAGとLLMを組み合わせることで、膨大な社内情報を効果的に管理し、迅速に検索することが可能です。

業務マニュアルや企画書、報告書など、さまざまな文書をデータベース化して統合すれば、「特定のプロジェクトに関する資料を探す」といったシンプルな指示で横断的な情報収集が実現します。さらに、生成AIの機能によって資料の要約も可能なので、大量の情報に目を通す手間と時間を大幅に削減できます。

RAGとLLMを組み合わせる際の注意点

RAGとLLMを組み合わせて活用する際は、次のようなポイントに注意が必要です。

• 精度を高めるためにはデータの前処理が必要
• 情報の取り扱いに注意する必要がある
• 回答速度が低下する恐れがある

それぞれの注意点について詳しく解説します。

精度を高めるためにはデータの前処理が必要

RAGとLLMを組み合わせる場合、検索フェーズと生成フェーズの2つのステップにおいて回答精度が低下することも考えられます。生成フェーズでは、使用するLLMモデルの変更やプロンプトの改良によって精度向上が可能ですが、検索フェーズにも改善の余地があります。

検索フェーズで精度が落ちるのは、主に関連性の低い情報が取得されたり、必要な情報が不足していたりするためです。また、引用されるデータがRAGに最適なデータ構造になっていないこともあります。つまり、検索精度を向上させるにはデータの前処理が重要です。

データの前処理には、Excelファイルから正しい順番でテキストを抽出するデータの整備が必要です。その後、データクレンジングやデータクリーニングといった作業も求められるため、あらかじめ前処理の工程や工数を見込んでおくことが大切です。

情報の取り扱いに注意する必要がある

RAGを活用することで、一般に公開されていない情報も生成AIが取り扱えるようになります。しかし、裏を返せば、データベースに機密情報が含まれている場合、その情報が生成された回答に反映される可能性があります。

仮に顧客からの問い合わせに対する回答に社外秘や社内秘の情報が含まれてしまった場合、情報漏えいや信用低下といった重大な問題に発展する恐れがあります。このようなリスクを避けるためには、RAGがアクセスできるデータベースから機密情報を除外する、あるいは機密情報にアクセス制限を設けるなど、情報の取り扱いに十分な注意が必要です。

回答速度が低下する恐れがある

RAGはその特性上、回答精度を向上させようとすると処理速度が遅くなる傾向があります。特に、データセット外から参照するデータ量が増えると、検索にかかる時間が長くなりやすい点には注意が必要です。

そのため、RAGとLLMを組み合わせる際の活用範囲を明確にしましょう。例えば、社内ヘルプデスクにRAGとLLMの仕組みを活用する場合、回答が多少遅くなっても大きな問題に発展する可能性は低いといえます。一方で、顧客向けの問い合わせ対応で回答時間が長くなると、顧客満足度の低下や顧客離れなど、事業存続にかかわる重大な事態にも陥りかねません。

このような点からRAGとLLMを組み合わせる際は、生成AIを活用する場面に応じてどの程度のスピード感が必要かを事前に検証することが大切です。

RAGとLLMを組み合わせて生成AIを最大限に活用しよう

生成AIの基盤となるRAGとLLMには、それぞれメリットとデメリットがあります。例えば、RAGの場合は、情報の出力時に外部のデータソースを参照できるメリットがありますが、データセットの準備や環境構築に手間がかかるのが難点です。それぞれのメリットを活かすには、RAGとLLMを組み合わせて活用するのがおすすめです。

両者を組み合わせることで、事前に学習したデータと検索によって取得したデータを利用できるため、より高精度な回答が可能になります。問い合わせ対応やFAQサイトの構築など、活用の幅も広がるため、目的に合わせて活用を検討してみてはいかがでしょうか。

電算システムでは、Google Cloudのスターターパックサービスや技術コンサルティングサービスなどを提供しています。Google Cloudを活用したデータ分析基盤の構築方法や、データの活用方法などに関して、プロの観点からアドバイスを行っています。「Google　Cloudを活用したいが具体的なイメージが湧かない」といったお悩みを抱える方は、ぜひ電算システムへと気軽にお問い合わせください。