独立同分布(Independent and Identically Distributed i.i.d.)| 確率・統計
定義
確率空間 $(\Omega, \mathcal{F}, P)$ 上の確率変数列 ${X_1, X_2, \ldots, X_n}$(または無限列)が独立同分布であるとは、以下の 2 条件を満たすことを言います。
1. 同分布性(Identically Distributed)
すべての $i$ について、$X_i$ の分布関数(または確率密度・確率質量関数)が等しい:
\[F_{X_1}(x) = F_{X_2}(x) = \cdots = F_{X_n}(x), \quad \forall x \in \mathbb{R}\]2. 独立性(Independent)
任意の $x_1, \ldots, x_n \in \mathbb{R}$ に対し、同時分布が周辺分布の積に分解される:
\[F_{X_1,\ldots,X_n}(x_1,\ldots,x_n) = \prod_{i=1}^n F_{X_i}(x_i)\](密度が存在する場合は $f(x_1,\ldots,x_n) = \prod_{i=1}^n f(x_i)$)
注意点(厳密性のため)
- 同分布は独立性を含意しないし、逆も同様。両条件は独立に要求される
- 独立性は 2 変数ごとの独立(pairwise independence)より強い、同時(mutual)独立を要求する。任意の部分集合に対して積が成り立つ必要がある