「プロンプトインジェクション」という言葉を聞いたことがあるでしょうか。生成AIを業務に組み込む会社が増えるにつれて、注目されるようになったセキュリティリスクです。IPA(独立行政法人情報処理推進機構)が発表した「情報セキュリティ10大脅威 2026」では、「AIの利用をめぐるサイバーリスク」が初めて第3位にランクインしており、その代表的な脅威として位置づけられています。
プロンプトインジェクションとは何か
プロンプトインジェクションとは、巧妙に細工した指示文(プロンプト)によって、生成AIに開発者が意図していない挙動をさせる攻撃です。AIは自然な文章による指示を柔軟に解釈できる一方で、その柔軟さを悪用され、本来のルール(システムプロンプト)を無視するよう誘導されてしまうことがあります。
「直接」だけでなく「間接」の攻撃もある
攻撃者が直接AIに対して不正な指示を打ち込む「直接プロンプトインジェクション」だけでなく、AIが参照するWebサイトやPDFファイル、データベースといった外部情報源に、あらかじめ悪意のある指示を仕込んでおく「間接プロンプトインジェクション」も存在します。この場合、利用者は正規の操作をしているつもりでも、AIが外部データを読み込んだ瞬間に、仕込まれた指示に従ってしまう可能性があります。
企業にとっての具体的なリスク
プロンプトインジェクションが成功すると、次のような被害につながる可能性があります。
- 顧客情報や社内の機密情報が、AIの回答を通じて外部に漏れる
- 差別的・攻撃的な内容をAIが生成し、企業の信用を損なう
- メールやカレンダー、データベースなど連携先のシステムが不正に操作される
- 虚偽の情報が、信頼された社内AIの回答という形で広まってしまう
今すぐできる対策
専門家が推奨する対策の基本は「多層防御」、つまり1つの対策に頼らず複数の防御線を用意することです。具体的には、AIに渡す前に利用者の入力内容を無害化する、データと命令を区別しやすくする、AIの回答内容を機密情報や不適切な内容が含まれていないか監視する、AIに与える権限を必要最小限にとどめる、といった対策が挙げられます。そして最終的には、重要な操作の前に人が確認する仕組みを残しておくことが、被害を防ぐ最後の砦になります。
PIMOAの視点
PIMOAでは、AI導入をご支援する際、便利さだけでなく、こうしたリスクへの備えもあわせてお伝えするようにしています。特に、AIに外部システムへのアクセス権限を持たせる場合は、「何を自動化し、どこから人が確認するか」を最初に設計しておくことが重要です。