ChatGPTやGemini、Claudeのような、チャット形式のAIを、仕事や毎日の調べものに使う人が増えました。便利な一方で、使い方を間違えると、情報が漏れたり、だまされたりするおそれがあります。
AIにもセキュリティにも詳しくない人が、まず守りたい5つの対策を、やさしく整理します。
最初に知っておきたい、AIの性質
- AIには、いろいろな種類があります。画像認識のAIは、写真の動物を言い当てられますが、明日の株価は予測できません。できることが違うので、セキュリティ上の課題も、対策も違います。
- チャットで翻訳・要約・イラスト作成まで頼める、いまの代表が生成AIです。1つで複数の用途に使えるので、「汎用AI」とも呼ばれます。
- 生成AIは、知識は豊富だが、経験不足の新人のようなものです。もっともらしいウソ(ハルシネーション)を答えることがあり、完全に防ぐ方法は、まだ分かっていません。使いどころを考え、確認を怠らないようにします。
ここから始める5つの対策
| 対策 | ひとことで | |
|---|---|---|
| 1 | クラウドAIに、営業秘密は教えない | 入力した内容は、AIの運営会社に渡る。 |
| 2 | AIブラウザは、社内用と社外用を分ける | ページに仕込まれた不正な指示を、AIが実行するおそれ。 |
| 3 | RAGを使うときは「混ぜるな危険」 | 社内文書と外部由来のデータが混ざらないように。 |
| 4 | 外見では、詐欺師を見破れないと心得る | 本物そっくりの、フェイクの画像・動画・音声。 |
| 5 | AI仕込みの攻撃も、撃退法は従来どおり | 基本のセキュリティ対策を、しっかり。 |
1. クラウドAIに、営業秘密は教えない
インターネット経由で使うチャットAIに営業秘密を話すと、AIの運営会社に、その営業秘密が渡ってしまいます。やりとりを、将来のAI改良のための学習データに流用する会社もあります。サービスの規約や設定を確認すると、入力を保存しない、学習の対象から外す、といった設定ができる場合があります。
くわしくは、クラウドAIに営業秘密を入れてはいけない理由。入れる前に確かめる3つのことをご覧ください。
2. AIブラウザは、社内用と社外用を分ける
AIブラウザは、チャットAIを内蔵したWebブラウザです。ページの翻訳・要約や、商品の検索・注文の代行を頼めます。閲覧中のページや、過去の閲覧履歴をAIと共有します。ページの中に、悪意のある不正な指示が含まれていると、AIが、利用者の指示と間違えて、情報漏えいや不正送金を実行するおそれがあります。この対策は、まだ不完全です。
くわしくは、AIブラウザの「不正プロンプト」とは?社内用と社外用を分ける理由をご覧ください。
3. RAGは「混ぜるな危険」
RAGは、AIが知らない情報を、自分で検索して補う仕組みです。社内の情報に沿った答えを得られる一方で、検索の対象に、外部から届いたメールが入ると、攻撃メールの中の不正な指示まで取り込んでしまうことがあります。検索の範囲を、適切に制限することが大切です。
くわしくは、RAGを使うときの「混ぜるな危険」。社内文書と外部メールを分けるをご覧ください。
4. 外見では、詐欺師を見破れない
本物と見分けのつかないフェイクの画像・動画・音声を、だれでも簡単につくれる状況です。機密情報の送信や、多額の送金を求める依頼は、本物かどうかを、二重・三重に確認します。
くわしくは、AIのフェイク画像・動画・音声による詐欺。二重・三重に確認するをご覧ください。
5. AI仕込みの攻撃も、撃退法は従来どおり
AIで、システムの弱点(脆弱性)を探す技術が発達してきました。ただ、いまのAIが見つけられるのは、昔から知られている、典型的な弱点が中心です。そのため、基本のセキュリティ対策が、そのまま有効です。
くわしくは、AIを使った攻撃への備え。撃退法は従来どおり、基本の対策をご覧ください。
まとめ
AIを安全に使うには、秘密や個人情報を入れない、AIブラウザを使い分ける、RAGの検索範囲を絞る、フェイクを疑う、基本の対策を続ける、の5つです。AIは「経験不足の新人」と考えて、確認しながら使いましょう。
AIの状況は変化が速く、数か月で事情が変わることがあります。
出典
- IPA「AI利用者のためのセキュリティ豆知識」(2026年4月2日公開。2026年10月31日に確認)