IT資格用語解説情報処理安全確保支援士試験・仮
モデルインバージョン攻撃とメンバーシップ推測攻撃
更新日:
用語解説
モデルインバージョン攻撃とメンバーシップ推測攻撃は、AIのモデルへの問合せの結果から、学習データに関する情報を推測するプライバシーへの攻撃です。
■ 試験で押さえるポイント
モデルインバージョン攻撃は、出力から、学習データの特徴や元のデータを復元・推定します。
メンバーシップ推測攻撃は、特定のデータが学習データに含まれていたかを推測します。
学習データを最小限にし、出力する確信度や問合せの回数を制限して対策します。
■ 過去問での着眼点
モデルが正しく答えていても、応答の差から学習データの情報が漏れる点を押さえます。
例: 病院のデータで学習したAIに問い合わせて、特定の人のデータが学習に使われたか（その病院の患者か）を推測します。