AIブラウザの「不正プロンプト」とは?社内用と社外用を分ける理由

AIブラウザや、AIが代わりに操作してくれる機能は、とても便利です。一方で、「ページに仕込まれた、不正な指示」という、新しい危険があります。

AIブラウザで、何が起きうるのか、どう使い分ければよいのかを、やさしく整理します。

AIブラウザとは

チャットAIを内蔵した、Webブラウザです。次のようなことを頼めます。

便利なぶん、閲覧中のページや、過去の閲覧履歴を、AIと共有することになります。

「プロンプト」は、AIに与える入力(指示)のことです。Webページの中に、悪意のある不正なプロンプトが含まれていると、AIが、利用者の指示だと間違えて、情報漏えいや、不正送金のような操作を、実行してしまうおそれがあります。

通常は、AIの利用者でなければ、AIに指示を出せません。ところが、AIが読み込むページやメールの中に、不正な指示を混ぜると、利用者ではない第三者が、AIを操れてしまいます。これを、間接プロンプトインジェクションと呼びます。AIを使う人にも、警戒が必要な攻撃です。

AIブラウザの不正プロンプトへの対策は、まだ不完全です。そこで、使い分けをすすめます。

パソコンやブラウザを、AIが代わりに操作する機能でも、同じ危険があります。操作の権限は必要最小限にして、メールの送信や、支払いなどの、取り消せない操作の前には、人が確認するようにします。各サービスの設定は、Claude Coworkを安全に使うには?読む権限と書く権限の考え方などをご覧ください。

AIが読むページやメールの中に、不正な指示が混ざると、AIが利用者の指示と間違えるおそれがあります。対策は、まだ不完全です。重要な情報を見るときは、AIブラウザと通常のブラウザを使い分けましょう。