IT資格用語解説応用情報技術者試験・攻撃手法基本情報技術者試験・攻撃手法生成AIパスポート・AIエージェントのリスク・安全性・評価生成AIパスポート・AI倫理とAI事業者ガイドライン生成AIパスポート・生成AIの代表的リスクITパスポート試験・攻撃手法
プロンプトインジェクション
更新日:
用語解説
プロンプトインジェクションは、生成AIへの入力や、AIが読み込む外部のデータに悪意のある指示を混ぜて、本来の意図とは異なる出力や操作をさせる攻撃です。
■ 試験で押さえるポイント
利用者が直接入力する直接型と、Webページなどに指示を埋め込む間接型があります。
特定の言葉を禁止するだけでは、完全には防げません。
AIに与える権限を最小にし、重要な操作には人の承認を求めます。
■ 選択肢での判断ポイント
自然言語の指示で生成AIを操る攻撃です。SQLインジェクションとは対象が異なります。