AI に対する脅威
更新日:
用語解説
AI に対する脅威は、AIの学習データ、モデル、入力、出力などを攻撃し、AIの正確さや安全性を損なったり、情報を盗んだりする脅威です。
■ 試験で押さえるポイント
学習データに不正なデータを混ぜて誤った学習をさせるポイズニングがあります。
入力を細工して誤った判定をさせる回避攻撃があります。
生成AIに不正な指示を与えるプロンプトインジェクションがあります。
■ 選択肢での判断ポイント
学習時のポイズニング、運用時の回避攻撃、生成AIへのプロンプトインジェクションを区別します。