IPAの「情報セキュリティ10大脅威 2026」の、組織向けで、3位に「AIの利用をめぐるサイバーリスク」が、初めて選ばれました。
解説書の内容を、一般の人にもわかりやすく、まとめますね。
どんなリスクなの?
生成AIの進化と普及にともなって、さまざまな問題が出てきている、と解説書は書いています。例として、AIへの理解が足りないことによる、他者の権利の侵害や情報漏えい、AIの結果を、よく確かめずに鵜呑みにして起きる問題、AIの悪用による、サイバー攻撃のやりやすさや、手口の巧妙化などが、挙げられています。
3つの主なリスク
- 職場に許可なく、AIを仕事で使って、情報が漏れてしまう(いわゆる「シャドーAI」)。持ち出しが禁止されている業務データを、AIサービスに入力すれば、情報漏えいにつながります。
- 実在しない情報を、AIが作ってしまう(ハルシネーション)。手軽さから、頼りすぎて、まちがった結果を鵜呑みにしてしまうおそれがあります。
- AIを助けにした、サイバー脅威の増加。AIの翻訳能力が上がって、攻撃者が、フィッシングの文面を、標的の母国語で、違和感なく書けるようになりました。攻撃の技術水準が、高まっています。
解説書が紹介している事例・傾向
- 米国のAI企業の調査として、仕事で、生成AIにデータをコピー&ペーストして入力している利用者が77%おり、そのうち82%が、組織に管理されていないアカウントによるものだった、とされています。
- 2025年1月、米国テキサス州の裁判所で、弁護士が出した意見書に、実在しない判例が引用されていたことがわかりました。生成AIで作成しており、弁護士は、ハルシネーションが起こりうることを知らなかったそうです。
- 2025年2月、不正に入手したIDとパスワードを入力して、携帯電話の回線契約まで行うプログラムを使ったとして、中高生3人が逮捕されました。生成AIを補助的に使い、プログラムを自作したそうです。
- 2025年6月、Microsoft 365 Copilotの脆弱性「EchoLeak」の存在が報道されました(修正済み)。
どう備える?(解説書の「AI利用者」向けの対策)
- 秘密の情報を、安易に入力しないようにしましょう。
- AIが、指示を正確に反映した結果を、出すとは限らないこと、ハルシネーションがあることを、理解しておきましょう。
- AIに、頼りすぎないように気をつけましょう。
- AIの悪用による、不正アクセスや、ソーシャルエンジニアリングを防ぐため、多要素認証を徹底しましょう。
- 外部のサービスを使うときは、入力したデータを、学習の対象から外す設定(オプトアウト)を、しっかり行いましょう。
- AIサービスを契約するときは、約款を確認しましょう。
※この記事は、IPAの解説書(組織編)の内容をもとにした、一般向けの要約です。事例は、解説書が紹介しているものです。
関連記事
出典
- 情報セキュリティ10大脅威 2026 解説書[組織編]|情報処理推進機構(IPA)(2026年10月12日に確認)
- 情報セキュリティ10大脅威 2026|情報処理推進機構(IPA)(2026年10月12日に確認)