用拟Newton方法加速EM算法

EM算法是一种常用的最大似然估计方法。它在许多应用中的简单性和理想的收敛特性使它非常有吸引力。然而，它有时收敛较慢，这促使研究人员提出了加速它的方法。我们回顾了这些方法，将其分为三类：纯净的,混合的和EM-类型加速器。我们提出了一种基于准牛顿方法的新型纯加速器和一种新型混合加速器，并将其与其他两种准牛顿加速器进行了数值比较。为此，我们在三个领域中分别使用了示例：泊松混合、不完全数据协方差估计和多元正态混合。在这些比较中，新的混合加速器在大多数示例中都是最快的，而且往往非常显著。在某些情况下，它将EM算法加速了100倍以上。新的纯加速器实现起来非常简单，并且与其他加速器竞争很好。在某些情况下，它将EM算法加速了50倍以上。为了获得标准误差，我们建议使用新混合加速器的辅助输出近似观测信息矩阵的逆。对这些近似值的数值评估表明，它们可能至少对探索目的有用。