アルゴリズムのバイアス

アルゴリズムのバイアスは、学習データ、特徴量、しきい値などが原因で、AIの結果が系統的に偏り、特定の集団に不公平な不利益を与える現象です。

■ 試験で押さえるポイント

• 代表性のないデータや、過去の差別を含む実績から学習すると偏りが生じます。

• 全体の精度が高くても、集団ごとの誤りの率が大きく異なることがあります。

• 性別などの属性を使わなくても、それと関係の強い別の項目から偏ることがあります。

■ 選択肢での判断ポイント

集団別の誤りを確認し、「AIは機械なので中立」という説明は誤りとします。