決定木アルゴリズムと不純度指標

決定木では情報利得(Information Gain)が最大、すなわち分割後の不純度(ジニ不純度や交差エントロピー)が最小になるように特徴量と閾値を選択して木を成長させます。 ア:正解です。完全に単一クラスのみで構成されるノードでは不純度は 0 となります。 イ:誤りです。分割によって不純度を「最小化(減少)」させるように分岐ルールを決定します。 ウ:誤りです。CART(Classification and Regression Trees)は二分木(2分割)を生成します。 エ:誤りです。ジニ不純度は 1 - Σ p_i^2 で計算でき、log演算を必要としないためエントロピーより計算が軽量です。

決定木のノード分割において用いられる「不純度(Impurity)」指標に関する記述として、最も適切なものを1つ選択してください。

出典G検定オリジナル模擬試験
ア
ジニ不純度やエントロピーは、ノード内のクラスが単一に揃っている(純粋な)状態のときに最小値(0)をとる。
イ
決定木は、子ノードに分割した後の不純度の加重平均が親ノードの不純度よりも最大化される分岐ルールを選択する。
ウ
CARTアルゴリズムは、多値分岐(3つ以上への同時分割)のみを行い、不純度指標として決定係数を用いる。
エ
ジニ不純度は計算に自然対数(log)の演算を多用するため、エントロピーに比べて計算負荷が常に高い。