AI利用者の関与によるバイアス

AI利用者の関与によるバイアスは、利用者の入力、選択、評価、無視、運用方法が偏ることで、AIの出力、収集データ、再学習結果に特定方向の偏りが生じたり増幅したりする現象です。

■ 試験で押さえるポイント

• クリックや評価を学習する推薦では、利用者が見せられた候補だけを選ぶため、既存人気がさらに露出するフィードバックループやフィルターバブルが起こります。

• 担当者が特定集団だけを厳しく確認する選択的ラベル付けや、AI提案を無批判に採用する自動化バイアスも、観測データと意思決定をゆがめます。

• モデル内部のアルゴリズムバイアスだけでなく、UIの候補順、業務ルール、利用者教育、データ収集範囲を含む社会技術システム全体を調べます。

■ 選択肢での判断ポイント

利用者の行動が次のAI出力や学習データを偏らせる循環を選びます。学習データの過去差別だけが原因とは限りません。

例: 推薦上位の商品だけがクリックされ、そのクリックを再学習すると同じ商品がさらに上位になります。一定割合で新商品を提示し、露出差を補正して評価します。