確率の基礎確率・統計

同時確率

事象 Aと事象 Bが同時（両方とも）に起きる確率を $P(A, B)$ （や $P(A \cap B)$ ）と表し、同時確率と呼びます（同時確率は事象の独立性を仮定しません¹）。

\[P(A, B) = P(A \mid B)P(B) \quad ※\ P(B \mid A)P(A) も同じ\]

事象 A と事象 B が両方起こる確率は事象 B が起こる確率 $P(B)$ と事象 B が起こった後に事象 A が起こる確率 $P(A \mid B)$ の積で表されます。
また事象 A と事象 B が独立なときは $P(A \mid B) = P(A)$ なので以下が成り立ちます。

\[P(A, B) = P(A)P(B) \quad ※\ 事象 A, 事象 B は互いに独立\]

条件付き確率は次の式で定義されます。

\[\begin{aligned} P(A \mid B) = \frac{P(A, B)}{P(B)} \\ \end{aligned}\]

一般に $P(A \mid B)$ と $P(B \mid A)$ は一般には等しくありません。

\[P(B \mid A) = \frac{P(A, B)}{P(A)} \neq P(A \mid B) = \frac{P(B, A)}{P(B)}\]

ベイズの定理を使うことで $P(A \mid B)$ から $P(B \mid A)$ を導出できます（その逆も）。

条件付き確率の定義を変形すると、それぞれ同時確率 $P(A,B)$ が得られます。
同時確率には対称性 $P(A,B) = P(B,A)$ があるため 2 式は等しくなります。

\[P(A,B) = P(A \mid B)\,P(B) = P(B \mid A)\,P(A)\]

これを $P(B \mid A)$ について解くと、既知の $P(A \mid B)$ から未知の $P(B \mid A)$ を求める式、すなわちベイズの定理が得られます。

\[P(B \mid A) = \frac{P(A \mid B)\,P(B)}{P(A)}\]