AI に対する脅威

AIに対する脅威は、学習データ、モデル、入力、出力、実行基盤、連携ツールを攻撃・悪用し、AIの正確性、機密性、可用性、安全性又は利用目的を損なう事象です。

■ 試験で押さえるポイント

• ポイズニングは学習データ等を汚染し、回避攻撃は運用時入力を細工して誤判定させ、プライバシー攻撃は学習情報やモデル情報を推測・抽出します。

• 生成AIでは直接・間接プロンプトインジェクションにより指示を上書きし、機密出力、意図しないツール操作、ガードレール回避を狙います。

• モデル・データ・ライブラリのサプライチェーン改ざん、モデル窃取、過剰権限を持つAIエージェントの悪用、出力を無検証で使うリスクもあります。

■ 選択肢での判断ポイント

学習時のポイズニング、運用時の回避、情報を得るプライバシー攻撃、生成AIのプロンプトインジェクションを区別します。

例: 外部Web文書中の隠れた命令をAIエージェントが実行しないよう、取得データを指示と分離し、送信・削除操作には最小権限と人の承認を要求します。