メンバーシップ推論攻撃とモデル抽出攻撃

Shokriらが提案したメンバーシップ推論(Membership Inference)は過学習したサンプルの出力確率の尖りを悪用して学習データの参加を暴きます。差分プライバシー(ノイズ付加)等で防御します。モデル抽出はブラックボックスのクローン作成攻撃です。 ア:正解です。学習データプライバシー侵害(メンバーシップ推論)とモデル知財窃取(モデル抽出)の説明です。 イ:誤りです。一般的なWeb認証攻撃ではありません。 ウ:誤りです。差分プライバシーは個人の寄与を数学的に隠蔽し、メンバーシップ推論攻撃を防御する有力な技術です。 エ:誤りです。重みを返信すると即座にモデルが盗まれます。

機械学習モデルのAPIに対するプライバシー・知的財産攻撃に関する記述として、最も適切なものを1つ選択してください。

出典G検定オリジナル模擬試験
ア
メンバーシップ推論攻撃は、特定の個人データがモデルの学習データセットに含まれていたかを予測確率値等から暴き出す攻撃であり、モデル抽出攻撃はAPIへの多数のクエリと出力からモデルの複製(盗用)を作成する攻撃である。
イ
メンバーシップ推論攻撃は、有料会員限定サイトのパスワードを総当たりで突破するブルートフォース攻撃である。
ウ
差分プライバシー(Differential Privacy)を導入すると、メンバーシップ推論攻撃のリスクは大幅に増大する。
エ
モデル抽出攻撃を防ぐためには、APIのレスポンスに常にモデルの全重みパラメータを添付して返信すべきである。