AI に対する脅威
更新日:
用語解説
AIに対する脅威は、AIの学習データ、モデル、入力、出力などを攻撃・悪用して、AIの正確さや安全性を損なう脅威です。
■ 試験で押さえるポイント
ポイズニングは、学習データを汚して、AIに誤った学習をさせる攻撃です。
回避攻撃は、判断させるときの入力を細工して、AIに誤った判断をさせる攻撃です。
生成AIへのプロンプトインジェクションは、悪意のある指示で、本来の指示を上書きさせる攻撃です。
■ 過去問での着眼点
学習のときの攻撃か、使うときの攻撃かで区別します。AIの出力を確認せずにそのまま使うことも危険です。
例: Webページに隠された命令をAIが実行しないよう、取得したデータと指示を分け、重要な操作は人が承認します。