IT資格用語解説情報処理安全確保支援士試験・仮
データポイズニング
更新日:
用語解説
データポイズニングは、AIの学習データや参照するデータに悪意のあるデータを混ぜ、AIの判断を偏らせたり、特定の条件で誤動作させたりする攻撃です。
■ 試験で押さえるポイント
学習のときだけでなく、AIが参照する知識の情報源（RAG）を汚す攻撃もあります。
データの出所と変更の履歴を管理し、投入する前に検証します。
データとモデルの版を管理し、性能の変化を監視します。
■ 過去問での着眼点
学習や参照のデータを汚すのがデータポイズニング、判断させるときの入力を細工するのが敵対的サンプルです。
例: AIの学習に使う公開データに、特定の言葉があると誤った分類をするような細工がされていないかを検証します。