正規分布(事後分布)〜正規分布(尤度関数)×正規分布(事前分布)

一般に、ある確率測度\mathbb{P}の下で、正規分布に従う確率変数Xに対し、

  • 尤度関数:X \sim \mathcal{N}(\mu_1, \sigma_1)
  • 事前分布:X \sim \mathcal{N}(\mu_0, \sigma_0)

であることを仮定したとき、事前分布が共役事前分布となっていることから、事後分布も正規分布 \mathcal{N}(\hat{\mu}, \hat{\sigma})となり、

  •  \frac{1}{\hat{\sigma}^2} = \frac{1}{\sigma_1^2} + \frac{1}{\sigma_0^2}
  •  \hat{\mu} = \frac{\hat{\sigma}^2}{\sigma_1^2} \mu_1 + \frac{\hat{\sigma}^2}{\sigma_0^2} \mu_0

が成立する。ただしここで、\mathcal{N}(\mu, \sigma)は平均\mu, 分散\sigmaを持つ正規分布を表す。従って、データが N \in \mathbb{Z}個存在する場合には、上式を再帰的に用いることで

  •  \frac{1}{\hat{\sigma}^2} = \sum_{i=1}^{N} \frac{1}{\sigma_i^2} + \frac{1}{\sigma_0^2}
  •  \hat{\mu} = \sum_{i=1}^{N} \frac{\hat{\sigma}^2}{\sigma_i^2} \mu_i + \frac{\hat{\sigma}^2}{\sigma_0^2} \mu_0

が成立する。