RAGを使うときの「混ぜるな危険」。社内文書と外部メールを分ける

会社の中の文書やメールを、AIに検索させて、答えをつくってもらう。そんな仕組みを導入する会社が増えています。「RAG(ラグ)」と呼ばれる仕組みです。

便利ですが、混ぜてはいけないデータがあります。導入や運用に関わる人に向けて、整理します。

RAGとは

RAGは、Retrieval Augmented Generationの略です。生成AIは、学習した知識をもとに答えを組み立てるため、特定の会社の社内規定のような、学習していない情報には答えられません。それが、ハルシネーション(もっともらしいウソ)の原因にもなります。RAGは、AIが知らない情報を、自分で検索して補う仕組みです。これで、自社の社内情報に沿った答えを得られます。

検索の結果は、一般には、利用者から見えません。どのデータを検索の対象にするかは、セキュリティの面も考えて決めます。

なぜ「混ぜるな危険」?

RAGの検索では、いろいろなデータが、チャットAIのプロンプト(入力)に取り込まれます。

• メールのような、外部から届いたデータが検索されると、不正な指示を含む、攻撃メールも取り込まれてしまいます。AIの不正な動作を引き起こすおそれがあります。
• 社内文書と、不正なメールの両方が、同時にプロンプトに入ると、社内の情報が、不正な指示によって、社外に流出するおそれがあります。

運用で考えること

• RAGで検索する範囲を、適切に制限する。メールなど、外部由来のデータを、社内文書と同じ検索の対象にしない。
• 不正プロンプトへの対策は、まだ不完全だと考えて、システムの運用の面からも、守りを考える。
• AIの答えは、ウソを含むことがあるので、重要な判断では、人が確認する。

まとめ

RAGは、AIが検索で知識を補う仕組みです。外部から届いたメールのようなデータと、社内文書を混ぜて検索すると、不正な指示で、社内情報が流出するおそれがあります。検索の範囲を、制限しましょう。

関連記事

• AIブラウザの「不正プロンプト」とは?社内用と社外用を分ける理由

出典

• IPA「AI利用者のためのセキュリティ豆知識」(2026年4月2日公開。2026年10月31日に確認)