便利な生成AI。でも、入力した内容が、思わぬ形で外に出てしまうことがあります。
総務省の教材をもとに、入力してはいけない情報と、守りたい3つの行動をまとめます。
どんなリスクがあるの?
- 生成AIは、利用者が入力したデータを、学習データとして利用することがある。
- 個人情報や、社外秘の機密情報を入力すると、他人の質問への答えに使われ、情報が漏れる可能性がある。
- 漏れた情報が、サイバー犯罪などに悪用される恐れがある。
入力してはいけない情報の例
- 個人情報: 氏名、電話番号、住所、メールアドレス、生年月日、公的ID番号、学校・職場の情報、顔写真など。
- 機密情報: 経営・営業に関する情報、顧客や社員のデータ、技術情報、法的文書、業務上の秘密、議事録など。
- 自分自身の氏名や所属も、個人情報にあたります。
実際にあった事例
2023年3月、海外の電子機器メーカーで、生成AIの使用による社内情報の流出が、立て続けに発生しました。社内機密のソースコードを入力して修正を依頼した例(2件)と、社内会議の録音を文章にして入力し、議事録をつくった例(1件)です。
情報流出を防ぐ3つの行動
- サービスの規約を確認する(データの利用目的や範囲など)。規約が変わったときは、変更箇所もチェックする。
- 個人情報や機密情報の入力は、必要最小限にする。
- 入力したデータを学習に使わせない設定(オプトアウト)をする。
知っておきたい補足
教材には、「オプトアウト設定をしても、ChatGPTでは、不正利用の監視に備えて30日間、履歴が保存される」との注記があります。これは、教材が作られた2023年時点の説明です。現在の仕組みは、各サービスの最新の規約や設定画面で確認してください。
面接のお礼メールを作るときは?
教材の問題では、「面接中に聞いた相手の業務情報は、機密情報にあたる可能性があるので、入力しない」「生成されたメールは、確認し、必要に応じて修正してから送る」が、正しい対応とされています。
※総務省の教材は、2023年時点のChatGPT(GPT-4)を例にしています。画面の見た目や機能は、今と異なる場合があります。基本的な考え方は、今も参考になります。
関連記事
出典
- 総務省「生成AIの入門的な使い方と注意点」(教材 ver1.0)(2026年10月12日に確認)
- 生成AIはじめの一歩|総務省(2026年10月12日に確認)