モデルインバージョン攻撃

モデルインバージョン攻撃(Model Inversion Attack)は、公開されているAIモデルのAPI等に対して様々な入力データを少しずつ変化させながら繰り返し送信し、得られた出力結果(確信度など)を解析することで、AIが学習に使用した「元の機密データ(個人情報など)」を逆算・復元しようとする攻撃です。 各選択肢の解説: イ:モデル抽出攻撃(Model Extraction Attack)の説明です。入力と出力のペアを大量に収集し、元のAIモデルと同等の機能を持つクローンを作成します。 ウ:データポイズニング攻撃(Data Poisoning Attack)の説明です。学習データに細工を施し、AIの推論を狂わせます。 エ:AIソフトウェアに対するリバースエンジニアリング(ホワイトボックス解析)の説明です。

AIに対するモデルインバージョン攻撃に該当するものはどれか。

出典令和7年度 秋期 情報処理安全確保支援士試験 午前Ⅱ 問5
ア
AI モデルに対して入力データを調整しながら出力結果の取得を繰り返し行って解析し、学習に用いた元のデータを推測する。
イ
AI モデルに対して複数のデータを入力して得られた出力結果を観察することによって、当該AI モデルを模倣し、同等の性能をもつAIモデルを得る。
ウ
学習時のデータセットに悪意あるデータを混入し、誤った学習をさせる。
エ
何らかの方法で AI の実行ファイルを入手し、逆アセンブルや逆コンパイルによってAIのソースコードを得る。