アルゴリズムのバイアス

アルゴリズムのバイアスは、学習データ、ラベル、特徴量、目的関数、しきい値、運用環境などに起因して、AIの結果が系統的に偏り、特定集団へ不公平な利益・不利益を与える現象です。

■ 試験で押さえるポイント

• 母集団を代表しない標本、過去の差別を含む実績、代理変数、不正確なラベル、少数集団のデータ不足など、モデル学習前から偏りが入り得ます。

• 全体精度が高くても、属性群ごとの偽陽性率・偽陰性率が大きく異なることがあります。公平性には複数の定義があり、全てを同時に満たせない場合もあります。

• データ再収集・重み付け、特徴見直し、制約付き学習、しきい値調整、運用ルール、HITL、異議申立てなどを組み合わせ、影響と法的要件に応じて対処します。

■ 選択肢での判断ポイント

全体平均ではなく集団別の誤りと不利益を確認します。「属性を使わなければ必ず公平」「AIは機械なので中立」という説明は誤りです。

例: 採用AIの全体正解率が90%でも、ある集団の適格者を不合格にする率が他群の3倍なら、学習データとしきい値を調査し公平性を評価します。