説明可能なAI (XAI)

説明可能なAI（XAI：Explainable AI）は、AIが特定の出力をした理由、重要な入力要因、適用範囲、限界を、人が理解・検証できる形で示すための技術と設計の総称です。

■ 試験で押さえるポイント

• 決定木や線形モデルのように構造自体を説明しやすいモデルと、複雑なモデルへ特徴重要度、局所近似、反実仮想などを後付けする説明手法があります。

• 局所説明は一件の判断理由、全体説明はモデル全般の傾向を扱います。「収入があと何円なら結果が変わるか」という反実仮想は利用者の理解に役立ちます。

• 説明の忠実性、安定性、分かりやすさ、利用者の役割を評価します。もっともらしい説明がモデルの実際の計算や因果関係を正確に表すとは限りません。

■ 選択肢での判断ポイント

ブラックボックスの判断根拠を理解・検証可能にする目的を選びます。単なる高精度化、ソースコードの全面公開、自然な文章で回答することだけではありません。

例: 融資AIが否決理由として負債比率と返済履歴の寄与を示し、負債比率が一定以下なら結果が変わる反実仮想を提示します。監査者は説明の忠実性も確認します。