LIMEとSHAPの特徴量重要度算出アプローチ

LIME(Local Interpretable Model-agnostic Explanations)は近傍の局所線形サロゲートモデルを学習します。SHAP(SHapley Additive exPlanations)はシャープレイ値に基づき、効率性・対称性・線形性などの望ましい数学的性質を満たす一貫した重要度を提供します。 ア:正解です。局所的近似アプローチのLIMEと、ゲーム理論(Shapley値)の厳密な公理に基づくSHAPの対比です。 イ:誤りです。SHAPは協力ゲーム理論のシャープレイ値という強固な数学的基礎を持ちます。 ウ:誤りです。LIMEは入力と出力の関係のみを参照する代表的なモデル非依存(Model-agnostic)手法です。 エ:誤りです。予測のバイアスや根拠を透明化し検証するための解釈手法です。

ブラックボックスモデルの局所的解釈手法である「LIME」と「SHAP」の比較として、最も適切なものを1つ選択してください。

出典G検定オリジナル模擬試験
ア
LIMEは対象サンプルの近傍に微小な摂動を加えたデータを生成して単純な解釈可能モデル(線形回帰等)で局所近似し、SHAPは協力ゲーム理論のシャープレイ値に基づいて各特徴量の貢献度を理論的公理を満たして算出する。
イ
SHAPはすべての特徴量をランダムにシャッフルして消去するだけであり、数学的な理論的根拠は持たない。
ウ
LIMEはディープラーニングの重みを解析的に逆算する手法であり、モデルに依存しない(Model-agnostic)手法ではない。
エ
両手法ともに、モデルの予測結果を人間が好む都合の良い結論に強制的に改ざんするためのツールである。