AI利用者の関与によるバイアス

AI利用者の関与によるバイアスは、利用者の入力、選択、評価の偏りによって、AIの出力や再学習の結果に偏りが生じたり、強まったりする現象です。

■ 試験で押さえるポイント

• 推薦では、表示された候補ばかりが選ばれ、人気のものがさらに表示される循環が起きます。

• AIの提案を無批判に受け入れる自動化バイアスも、判断をゆがめます。

• 画面の表示順や業務のルールなど、システムの使われ方全体を見直します。

■ 選択肢での判断ポイント

利用者の行動が、次のAIの出力や学習データを偏らせる循環を選びます。