最小二乗法と回帰直線
スライダーで直線を動かし、残差²の和(SS)が最小になる場所を探そう
直線 y = ax + b を動かす
1.00
0.00
傾き a
1.00
切片 b
0.00
残差平方和 SS
—
最小 SS(最小二乗解)
—
計算中...
散布点
回帰直線 y=ax+b
残差(予測のズレ)
残差²
最小二乗法とは、散布データに対して「予測値と実測値の差(残差)の二乗の和」が最も小さくなる直線を求める手法です。
スライダーで傾き・切片を変えると、赤い正方形(残差²)の面積の合計が変化します。合計面積が最小になる直線が回帰直線です。
スライダーで傾き・切片を変えると、赤い正方形(残差²)の面積の合計が変化します。合計面積が最小になる直線が回帰直線です。
いま何が起きている?
読み込み中...
読み込み中...
ここがポイント
- 残差 = 実測値 − 予測値。直線からのタテ方向のズレのこと。
- 残差²の和(SS)を最小化することで、最も「当たりに近い」直線が一意に決まる。
- 最小二乗解の公式は
a = Σ(x−x̄)(y−ȳ) / Σ(x−x̄)²、b = ȳ − a·x̄。 - 回帰直線は予測・モデル化・機械学習の基礎であり、最小二乗法はその核心にある。