自由度
自由度(degrees of freedom)は自由に動かせる値の数です。
分散の推定の文脈では推定に使える独立した情報の数です。
具体例:なぜ $n-1$ なのか
$n=3$ のデータの平均が $\bar x = 5$ と分かっているとします。2 つの値が 4 と 6 なら、3 つ目は $15-4-6=5$ に決まり自由に選べません。
平均を固定すると、データのうち自由に動かせるのは $n-1$ 個だけです。
不偏分散 $s^2=\frac{1}{n-1}\sum(x_i-\bar x)^2$ は、真の平均 $\mu$ の代わりに標本平均 $\bar x$ を使います。各データの $\bar x$ からのずれ $x_i-\bar x$ は、合計が 0 になります。そのため、独立な情報は $n$ 個ではなく $n-1$ 個です。これが自由度 $\nu=n-1$ の由来で、$s^2$ を $n$ ではなく $n-1$ で割る(不偏分散にする)理由でもあります。
t分布での役割
t分布 の形を決めるパラメータは、この $\nu$ だけです。
- $\nu$ が小さい(サンプルが少ない):$s$ の推定が不安定で、裾が厚くなります。
- $\nu$ が大きい:$s$ が $\sigma$ にほぼ一致するため、標準正規分布に近づきます。
自由度は、$s$ という推定値をどれだけ信頼できるかを表す指標と考えられます。