ベイズの定理の自分用メモ

統計

こんてんつ

何回聞いてもすぐに忘れてしまうベイズの定理について、どうしても覚えたいのでまとめておく。

定義

条件付確率の定義

\displaystyle P(A_i|B_j) \equiv \frac{P(A_i \bigcap B_j)}{P(B_j)}

事象B_jが起こったと分かった時のAの分布を表す。

ベイズの定理

\displaystyle \begin{eqnarray} P(A_i|B_j) &\equiv& \frac{P(A_i \bigcap B_j)}{P(B_j)} \\ &=& \frac{P(B_i \bigcap A_j)}{P( \{ (B_i \bigcap A_1) + \cdots + (B_i \bigcap A_n) \} )} \\ &=& \frac{P(B_i \bigcap A_j)}{\sum_{i} P(B_i \bigcap A_j)} \\ &=& \frac{P(B_j|A_i) \cdot P(A_i)}{\sum_{i} P(B_j|A_i) \cdot P(A_i)} \end{eqnarray}

元々の注目事象についての情報「事前分布P(A_i)」を、B_jが起こったという新しい条件で、「事後分布P(A_i|B_j)」へと更新する手続きのこと。

練習問題

問題

いろいろな動物の絵がプリントされているクッキーを、工場Aと工場Bで生産している。工場Aで製造されたクッキーの箱の中には2%の確率でカモノハシの絵がプリントされたクッキーが入っており、工場Bで製造されたクッキーの中には8%の確率でカモノハシの絵がプリントされているクッキーが入っている。ある商店では全商品のうち、70%を工場Aから、30%を工場Bから仕入れている。

仕入れたクッキーの箱を無造作に1個抽出したところ、箱の中にカモノハシの絵がプリントされているクッキーが入っていた。この時、クッキーが工場Aで製造された確率はいくらか？

解答

問題文で与えられている情報を書き出す。

\displaystyle P(x|A) = 0.02 \\ P(x|B) = 0.08 \\ P(A) = 0.7 \\ P(B) = 0.3

今回は、P(A|x)を求めたい。

\displaystyle \begin{eqnarray} P(A|x) &=& \frac{P(A \bigcap x)}{P(x)} \\ &=& \frac{P(x \bigcap A)}{P(x)} \\ &=& \frac{P(x \bigcap A)}{P( \{(x \bigcap A) +(x \bigcap B) \}) } \\ &=& \frac{P(x \bigcap A)}{P(x \bigcap A) + P(x \bigcap B)} \\ &=& \frac{P(x|A) \cdot P(A)}{P(x|A) \cdot P(A) + P(x|B) \cdot P(B)} \\ \end{eqnarray}

よって、

\displaystyle \begin{eqnarray} P(A|x) &=& \frac{P(x|A) \cdot P(A)}{P(x|A) \cdot P(A) + P(x|B) \cdot P(B)} \\ &=& \frac{0.02 \cdot 0.7}{0.02 \cdot 0.7 + 0.08 \cdot 0.3} \\ &=& 0.368 \end{eqnarray}