IT資格用語解説情報処理安全確保支援士試験・仮
データポイズニング
更新日:
用語解説
データポイズニング は、学習データや検索・参照データへ悪意あるデータを混入し、AIモデルの判断を偏らせたり、特定条件で誤動作させたりする攻撃です。
■ 試験で押さえるポイント
学習時だけでなく、RAGの知識源の汚染にも注意が必要です。
データの出所、収集経路、変更履歴を管理する。
異常値・重複・ラベル不整合を検出し、投入前に検証する。
データセットとモデルを版管理し、性能変化を継続監視する。
学習基盤やRAGの登録経路に認証・認可とレビューを設ける。
敵対的サンプルは主に推論時の入力を細工します。
データポイズニングは学習・参照データを汚染し、将来の出力へ影響させる点が違います。