ベルヌーイ分布二項分布についてまとめています。

ベルヌーイ分布

結果が 2 通りしか存在しない試行(ベルヌーイ試行)を 1 回だけ行ったときの確率分布1ベルヌーイ分布と呼びます。
確率変数が成功 = 1 、失敗 = 02ベルヌーイ分布は以下とおりです。

\[P(X = x) = p^x(1-p)^{1-x} \quad x\in{0,1}\]

期待値

ベルヌーイ分布の期待値 $E[X]$ は p です。

\[\begin{aligned} E[X] = (0 \times P(X=0)) + (1 \times P(X=1)) \\ E[X] = (0 \times (1-p)) + (1 \times p) = p \end{aligned}\]

分散

ベルヌーイ分布分散 $Var(X)$ は $p(1 - p)$ です。

\[Var(X) = p(1 - p)\]

最尤推定量

n 個の観測値 $x_1,…,$x_n$( $x_i$ は成功 = 1、失敗 = 0 )の最尤推定量は以下のとおりです。 \(\begin{aligned} \hat{p} = \frac{1}{n} \sum_{i=1}^{n} x_i \end{aligned}\)

詳細は最尤推定法 を参照してください。
ベルヌーイ分布二項分布では、パラメータ $\hat{p}$ は成功確率 $p$(スカラー)に対応します。

二項分布

ベルヌーイ試行を $n$ 回繰り返したときの成功した回数の合計が従う分布を二項分布と呼びます。

\[P(X = x) = \binom{n}{x}p^x(1-p)^{n-x} \quad x\in{0,1,2,...,n}\]

二項分布の期待値

\[E[X] = np\]

式展開は省略します。

分散

二項分布分散 $Var(X)$ は $np(1 - p)$ です。

\[Var(X) = np(1 - p)\]

最尤推定量

\[\frac{x}{n}\]

ベルヌーイ分布の最尤推定量と二項分布の最尤推定量の関係

ベルヌーイ試行をベースにした確率分布ベルヌーイ分布二項分布など)において、最も尤もらしい確率 $p$ を最尤推定法で求めると、データの持ち方がどうあれ、最終的には必ずデータの平均値(標本平均)に一致します。

\[\frac{1}{n}\sum_{i=1}^{n} x_i \iff \frac{x}{n}\]

補足:組み合わせ(二項係数)

\[\binom{n}{x} = {}_n C_x = \frac{n!}{x!(n-x)!}\]

順列・組み合わせの数 も参考にしてください。

  1. 離散確率分布であることを明示するときは確率質量関数と呼びます(連続確率分布を確率密度関数と呼びます)。 

  2. ベルヌーイ分布の確率変数は成功 = 1 、失敗 = 0 とするのが一般的です。