IT資格用語解説応用情報技術者試験・AI（Artificial Intelligence：人工知能）の利活用基本情報技術者試験・AI（Artificial Intelligence：人工知能）の利活用ITパスポート試験・AI（Artificial Intelligence：人工知能）の利活用
説明可能なAI (XAI)
更新日:
用語解説
説明可能なAI（XAI：Explainable AI）は、AIがある結果を出した理由や、影響の大きい入力の要因を、人が理解・検証できる形で示すための技術の総称です。
■ 試験で押さえるポイント
決定木のように構造自体が説明しやすいモデルと、複雑なモデルに後から説明を付ける手法があります。
一件ごとの判断の理由を示す説明と、モデル全体の傾向を示す説明があります。
もっともらしい説明が、実際の計算を正しく表しているとは限りません。
■ 選択肢での判断ポイント
ブラックボックスの判断の根拠を理解・検証できるようにする目的を選びます。