決定木
更新日:
用語解説
決定木は、特徴量に対する条件分岐を根から順にたどり、葉で分類クラス又は回帰値を出力する木構造の機械学習モデルです。
■ 試験で押さえるポイント
分類ではジニ不純度やエントロピー、回帰では二乗誤差等が大きく減る特徴量と分割点を選び、データを再帰的に分けます。
数値・カテゴリ特徴を扱え、判断経路を規則として説明しやすく、特徴量の尺度変換が不要なことが多い利点があります。
深く分割すると訓練データの雑音まで適合するため、最大深さ、葉の最小標本数、事前停止、枝刈りで複雑さを制御します。
データの小さな変化で木構造が変わりやすく分散が大きい弱点があり、多数の木を平均化するランダムフォレスト等で安定化できます。
■ 選択肢での判断ポイント
条件分岐を木として学習し、分類・回帰の両方に使える点と、深過ぎる木の過学習対策を押さえます。
例: 取引額が10万円超か、未登録端末か、国外接続かを順に分岐して不正確率を出します。検証データで深さを選び、葉を細分化し過ぎません。