A Legacy of EM Algorithms
A Legacy of EM Algorithms
复制标题
EM 算法的遗产
DOI：
10.1111/insr.12526
复制
发表时间：
2022
影响因子：
2
通讯作者：
Zhou, Hua
中科院分区：
文献类型：
--
作者：
Lange, Kenneth;Zhou, Hua
Nan Laird对计算统计学有着巨大且日益增长的影响。她与Dempster和Rubin合著的关于期望最大化（EM）算法的论文是统计学中被引用次数第二多的论文。她关于纵向建模的论文和书几乎同样令人印象深刻。在这个简短的调查中，我们从最小化最大化（MM）原则的角度重新审视了她的一些最有用的算法的推导。MM原则概括了EM原则，并将其从缺失数据和条件预期的束缚中解放出来。相反，重点转移到通过标准数学不等式构造代理函数。MM原理可以提供更少麻烦的经典EM算法或具有更快收敛速度的全新算法。无论如何，MM原理丰富了我们对EM原理的理解，并提出了在高维环境中具有相当潜力的新算法，其中标准算法（如牛顿方法和Fisher评分）会动摇。
Nan Laird has an enormous and growing impact on computational statistics. Her paper with Dempster and Rubin on the expectation‐maximisation (EM) algorithm is the second most cited paper in statistics. Her papers and book on longitudinal modelling are nearly as impressive. In this brief survey, we revisit the derivation of some of her most useful algorithms from the perspective of the minorisation‐maximisation (MM) principle. The MM principle generalises the EM principle and frees it from the shackles of missing data and conditional expectations. Instead, the focus shifts to the construction of surrogate functions via standard mathematical inequalities. The MM principle can deliver a classical EM algorithm with less fuss or an entirely new algorithm with a faster rate of convergence. In any case, the MM principle enriches our understanding of the EM principle and suggests new algorithms of considerable potential in high‐dimensional settings where standard algorithms such as Newton's method and Fisher scoring falter.
登录
查看更多内容
DOI：
10.1080/03610919408813180
发表时间：
1994-01-01
影响因子：
0.9
作者：
KENT, JT;TYLER, DE;VARDI, Y
通讯作者：
VARDI, Y
DOI：
10.1080/10618600.2018.1529601
发表时间：
2019-04-03
影响因子：
2.4
作者：
Zhou, Hua;Hu, Liuyi;Lange, Kenneth
通讯作者：
Lange, Kenneth
通过 MM 算法进行非凸优化：收敛理论
DOI：
--
发表时间：
2021
期刊：
影响因子：
--
作者：
K. Lange;Joong;Alfonso Landeros;Hua Zhou
通讯作者：
Hua Zhou
DOI：
10.1111/j.2517-6161.1977.tb01600.x
发表时间：
1977-01-01
期刊：
JOURNAL OF THE ROYAL STATISTICAL SOCIETY SERIES B-METHODOLOGICAL
影响因子：
--
作者：
DEMPSTER, AP;LAIRD, NM;RUBIN, DB
通讯作者：
RUBIN, DB