生成AIの答えは、もっともらしく見えます。でも、常に正しいとは限りません。
総務省の教材をもとに、偽・誤情報に騙されない、3つのポイントをまとめます。
偽情報と誤情報のちがい
- 偽情報: 意図的、意識的に作られたウソ。
- 誤情報: 勘違いや誤解によって拡散した、間違い。
なぜ増えているの?
- 特殊な技術がなくても、時間をかけずに、もっともらしい偽の画像・映像・音声・ニュース記事などを作れる。
- 学習データが、不正確だったり、偏っていたりする可能性がある。
- 裏付けのない回答をする場合がある。
- 正確なデータを学習しても、出力される情報が正しくない可能性がある。
実際にあった事例と、起きうる例
- 2022年9月、台風15号で水害が起きた静岡県の画像が、SNSで拡散。のちに投稿者が、画像生成AIで作った偽画像だったと公表した。
- ある生成AIサービスに、「西日本で最も高い山のTOP10」を聞くと、実在しない山の名前が含まれ、標高も不正確だった。
- 「駅周辺で、平日ランチにおすすめの和食店を5つ」と聞くと、存在しない店が含まれ、場所も予算も合っていなかった。
ポイント1: 人は、信じたいものを選ぶと意識する
人には、信じたいものを選ぶ傾向(認知バイアス)があり、無意識のうちに、偏った判断をすることがあります。「誰かに教えたくなる」「感情に訴える」「意外性がある」情報ほど、拡散されやすいと、教材は説明しています。
ポイント2: チェックリストで確かめる
- 情報源はあるか。
- その分野の専門家の発信か。
- ほかではどう言われているか。
- その画像は本物か。
- ファクトチェックの結果はどうか。
- 「知り合いだから」という理由だけで、信じていないか。
- 表やグラフも、疑ってみたか。
- その情報に、動機はあるか。
ポイント3: 安易に拡散しない
- わからないもの、誰かを傷つけるもの、医療・健康情報は、安易に拡散しない。
- どうしても拡散したいときは、ひと呼吸おいて、「間違いでは?」と考える。
- 異なる情報が出ていないか、チェックする。
生成AIに「本当か」と聞くのはNG
教材では、生成AIが偽・誤情報を答える恐れがあるため、生成AIに真偽を聞くのは適切ではない、と説明しています。また、生成AIの技術が進み、合成画像を見分けるのは非常に難しくなっています。画像に違和感がなくても、まず、自治体や公的機関などの公式情報を確認しましょう。
※総務省の教材は、2023年時点のChatGPT(GPT-4)を例にしています。画面の見た目や機能は、今と異なる場合があります。基本的な考え方は、今も参考になります。
関連記事
出典
- 総務省「生成AIの入門的な使い方と注意点」(教材 ver1.0)(2026年10月12日に確認)
- 生成AIはじめの一歩|総務省(2026年10月12日に確認)