回帰直線

回帰直線は、説明変数xと目的変数yの関係をyの予測値$\hat{y}=ax+b$という直線で表す単回帰モデルです。通常の最小二乗法では、各観測値yiと予測値ŷiとの差である残差の二乗和を最小にするaとbを求めます。

■ 試験で押さえるポイント

• 傾き$a=\dfrac{\sum_i(x_i-\bar{x})(y_i-\bar{y})}{\sum_i(x_i-\bar{x})^2}$、切片$b=\bar{y}-a\bar{x}$です。回帰直線は必ず標本の重心(x平均, y平均)を通ります。

• 最小化するのは通常、直線への垂直距離ではなく、y方向の残差$\sum_i(y_i-\hat{y}_i)^2$です。xを誤差なしの説明変数として扱う前提があります。

• 決定係数$R^2$はモデルがyの変動を説明する割合の指標ですが、高いだけで因果関係、妥当なモデル、未知データでの精度が保証されません。

• 観測範囲外への外挿は、関係が直線のまま続く保証がなく危険です。残差図で非線形性、分散の変化、外れ値、独立性を確認します。

■ 選択肢での判断ポイント

回帰はyをxから予測し、最小二乗法は残差二乗和を最小にします。相関係数は線形関係の強さを表しますが、予測式そのものではありません。

例: 点(1,2)、(2,3)、(3,4)では$\bar{x}=2$、$\bar{y}=3$、$a=\dfrac{(-1)(-1)+0+1\times1}{1+0+1}=1$、$b=3-1\times2=1$なので$\hat{y}=x+1$です。