敵対的サンプル（Adversarial Examples）

敵対的サンプルは、機械学習モデルに誤分類や意図した出力をさせるため、入力へ攻撃者が意図的な摂動や特徴を加えて作るデータです。敵対的事例とも呼ばれます。

■ 試験で押さえるポイント

• 画像の微小な画素変更だけでなく、標識へ貼る模様、音声信号、文章の変形などがあり、人には自然に見えてもモデルの判断境界を越えることがあります。

• 学習済みモデルの推論時に入力を細工する回避攻撃の代表例です。学習データへ悪性データを混ぜてモデル自体を変えるポイズニングとは段階が異なります。

• 攻撃者がモデル構造を知るホワイトボックス、出力への問合せだけを使うブラックボックスがあり、別モデルで作った例が転移する場合もあります。

• 敵対的学習、入力変換・検知、モデル多様化、信頼度監視を用いますが万能ではなく、安全上重大な判断はセンサ冗長化と人の確認・安全側制御を設けます。

■ 過去問での着眼点

推論時の入力を意図的に細工してモデルを誤らせるデータです。学習データを汚染する攻撃や、モデルから秘密を抽出する攻撃と区別します。

例: 道路標識へ特定模様を貼って画像認識を誤らせる可能性に対し、カメラだけでなく地図・速度・ほかのセンサを照合し、不一致時は安全側へ制御します。