敵対的サンプル（Adversarial Examples）
更新日:
用語解説
敵対的サンプル（Adversarial Examples）は、AI（機械学習のモデル）に誤った判断をさせるために、攻撃者が入力のデータに細工を加えたものです。
■ 試験で押さえるポイント
人には分からないほどの小さな変化でも、AIが別のものと誤認識することがあります。
学習済みのAIに判断させるときの入力を細工する攻撃で、学習データを汚すポイズニングとは段階が異なります。
細工した入力で学習させる（敵対的学習）などの対策がありますが、完全ではありません。
■ 過去問での着眼点
判断させるときの入力を細工する攻撃です。学習データを汚す攻撃と区別します。
例: 道路標識に特殊な模様を貼り、自動運転の画像認識に別の標識と誤認識させる攻撃があります。