カイ二乗分布(chi-squared distribution)は、標準正規分布に従う独立な量の二乗和が従う分布です。t分布 の統計量 $T=Z/\sqrt{V/\nu}$ の分母にある $V$ の分布として現れます。

定義

独立な標準正規分布に従う $Z_1,\dots,Z_k$ の二乗和を $V$ とします。

\[V = Z_1^2 + Z_2^2 + \cdots + Z_k^2 \sim \chi^2_k\]

この $V$ の分布が、自由度 $k$ のカイ二乗分布です。

  • 二乗和なので $V\ge 0$ で、右に裾を引く形になります。
  • 平均は $k$ です。

平均が $k$ になる理由

標準正規分布 $Z$ の平均は 0、分散は 1 です。分散は「平均からのずれの二乗の平均」で、平均が 0 なら $Z^2$ の平均そのものになります。

\[E[Z] = 0, \qquad E[Z^2] = \text{Var}(Z) = 1\]

$V$ はこの $Z_i^2$ を $k$ 個足したものなので、和の平均は平均の和になり、

\[E[V] = E[Z_1^2] + \cdots + E[Z_k^2] = 1 + \cdots + 1 = k\]

となります。

不偏分散との関係

母集団が正規分布で、標本が互いに独立に得られたなら、次が成り立ちます。

\[V = \frac{(n-1)s^2}{\sigma^2} = \frac{\sum (X_i-\bar X)^2}{\sigma^2} \sim \chi^2_{n-1}\]

これは「$n$ 個の標準化したずれの二乗和」に見えますが、$\bar X$ を使うため、ずれの合計が 0 になる制約があります。自由に動けるのは $n-1$ 個なので、自由度も $n-1$ になります。

また、$\bar X$ と $s^2$ は互いに独立になります。これは正規分布のときだけ成り立つ性質で、$T$ が t分布になるための前提です。

$T=Z/\sqrt{V/\nu}$ になる理由

$\nu=n-1$ とすると、$s/\sigma=\sqrt{V/\nu}$ なので、

\[T=\frac{\sqrt n(\bar X-\mu)}{s} =\frac{\sqrt n(\bar X-\mu)/\sigma}{s/\sigma} =\frac{Z}{\sqrt{V/\nu}}\]

分子 $Z$ は標準正規分布に従います。$\sigma$ は約分で消えるので、未知の $\sigma$ に依存しません。

t分布の裾が厚くなる理由

  • $V/\nu$ は平均が 1 ですが、$\nu$ が小さいとばらつきが大きくなります。$V/\nu$ がたまたま小さい値になると分母が小さくなり、$T$ が極端に大きくなります。これが裾の厚さの正体です。
  • $\nu$ が大きくなると、$V/\nu$ は大数の法則により 1 に収束します。すると $T\to Z$ となり、標準正規分布に近づきます。