確率分布確率・統計

確率分布関数（確率質量関数・確率密度関数）

確率質量関数：離散確率変数の確率分布を表す関数を確率質量関数と呼びます。各値が取られる確率を直接与える関数です。
確率密度関数：連続確率変数の確率分布を表す関数を確率密度関数と呼びます。連続変数の場合、特定の一点の確率は 0 になるため、密度関数 $f(x)$ 自体は確率そのものではなく、積分することで初めて区間の確率が得られるという点が離散の場合と異なります。

離散確率変数 $X$ が取りうる値の集合を $\mathcal{X}$ とすると、

\[P(X = x) = p(x), \quad x \in \mathcal{X}\]

ただし、

\[\sum_{x \in \mathcal{X}} p(x) = 1\]

例えば、二項分布であれば $\mathcal{X} = {0, 1, \dots, N}$、ポアソン分布であれば $\mathcal{X} = {0, 1, 2, \dots}$ のように、分布によって取りうる値の集合は異なります。

連続確率変数 $X$ において、確率密度関数 $f(x)$ の出力値は値 $x$ が発生する確率そのものではなく、その地点における確率の相対的な濃度（確率密度）を示しています。

連続型確率変数は、特定の 1 点 $x = c$ が発生する確率は常に $P(X = c) = 0$ と定義されます。そのため、確率を算出する際は必ず区間 $[a, b]$ を指定し、確率密度関数をその区間で積分した面積を求めます。

\[P(a \le X \le b) = \int_{a}^{b} f(x)\, dx\]

ただし、

\[f(x) \ge 0, \quad \int_{-\infty}^{\infty} f(x)\, dx = 1\]

確率変数 $X$ がある値 $x$ 以下となる確率を表す関数を累積分布関数と呼びます。

\[F(x) = P(X \le x)\]

確率質量関数・確率密度関数がそれぞれ「ある値（区間）が生じる確率（密度）」を表すのに対し、累積分布関数は「ある値以下になる確率」を累積して表す点が異なります。離散・連続いずれの確率変数に対しても定義できる点が特徴です。

離散確率変数の累積分布関数は、確率質量関数 $p(x)$ を累積和（総和）することで得られます。

\[F(x) = P(X \le x) = \sum_{x_i \le x} p(x_i)\]

階段状（ステップ関数）のグラフになり、各点 $x_i$ で $p(x_i)$ の分だけ値が飛び上がるという特徴があります。

連続確率変数の累積分布関数は、確率密度関数 $f(x)$ を積分することで得られます。

\[F(x) = P(X \le x) = \int_{-\infty}^{x} f(t)\, dt\]

数学的には、確率密度関数 $f(x)$ の原始関数のうち、$\lim_{x \to -\infty} F(x) = 0$ （および $\lim_{x \to \infty} F(x) = 1$）を満たす特定の関数が、累積分布関数 $F(x)$ です。

\[f(x) = \frac{d}{dx} F(x)\]

$F(x)$ は単調非減少
$\displaystyle \lim_{x \to -\infty} F(x) = 0, \quad \lim_{x \to \infty} F(x) = 1$

離散確率分布 $P(X=x)$ の期待値は以下のとおりです。

\[E[X] = \sum xP(X=x)\]

連続確率分布 $f(x)$ の期待値は以下のとおりです。

\[E[X[ = \int_{-\infty}^\infty xf(x)dx\]