回帰分析
更新日:
用語解説
回帰分析は、結果側の目的変数Yと、一つ以上の説明変数Xとの関係を数式モデルで推定し、影響の記述又は未知値の予測を行う分析手法です。単回帰では説明変数一つ、重回帰では複数を用います。
■ 試験で押さえるポイント
線形重回帰はと表し、βjは他の説明変数を一定としたときXjが1増える場合のYの平均変化として解釈します。
最小二乗法では残差二乗和を最小化します。線形性、誤差の独立性、等分散性、推論時の正規性などを残差図やデータ生成過程で確認します。
説明変数同士が強く相関する多重共線性は係数推定を不安定にします。不要変数の削減、正則化、標本追加などを検討します。
予測性能は学習に使わないデータで評価し、外挿と過学習を避けます。係数が有意でも観察データだけから因果効果とは断定できません。
■ 選択肢での判断ポイント
目的変数を説明・予測する関係式を求めるのが回帰です。相関分析は対称な関連の把握が中心で、説明変数と目的変数の役割を定める回帰とは異なります。
例: 売上Yを広告費X1と来店者数X2からと推定した場合、X2一定なら広告費1単位増加に対する予測売上の増分は1.5です。