EMアルゴリズム †
- どんなもの?
- 潜在変数を考えると推定がぐっと簡単になるときに有用なアルゴリズム
- 正確には、p(Z | X, θ)が計算可能かつp(X, Z| θ)が最大化可能ならば、p(X | θ)が繰り返し計算により局所最適化可能
- 最尤推定の局所最適解を E ステップ と M ステップ の二つのステップの繰り返しにより求める.
- EMアルゴリズムの抽象化
- 混合ガウス:アドホックに
- 期待値Qの最大化(完全データの生起確率の潜在変数に対する期待値Qの最大化)
- 自由エネルギー(自由エネルギー-Fをminとするqを前提とした時、-Fをminとするパラメータθの探求)
|