敵対的サンプル

敵対的サンプルは、機械学習のモデルに誤った判断をさせるため、入力データに人には分かりにくい細工を加えたデータです。

■ 試験で押さえるポイント

• 画像のわずかな変更や、標識に貼る模様などで誤認識させます。

• 学習済みのモデルに対し、判断するときの入力を細工する攻撃です。

• 学習データに不正なデータを混ぜるポイズニングとは段階が異なります。

■ 選択肢での判断ポイント

判断時の入力を細工してモデルを誤らせる点を、学習データを汚す攻撃と区別します。