Spectral gap of replica exchange Langevin diffusion on mixture distributions
Spectral gap of replica exchange Langevin diffusion on mixture distributions
复制标题
混合分布上复制品交换朗之万扩散的谱隙
DOI：
10.1016/j.spa.2022.06.006
复制
发表时间：
2022
影响因子：
1.4
通讯作者：
Tong, Xin T.
中科院分区：
文献类型：
--
作者：
Dong, Jing;Tong, Xin T.
朗之万扩散（LD）是采样问题的主要工具之一。然而，如果目标分布是多个密度的混合，特别是当每个分量密度集中在不同的模式周围时，它的收敛速度会显着降低。电子交换朗之万扩散（ReLD）是一种可以避免这个问题的采样方法。这种方法可以进一步扩展到多副本交换朗之万扩散（mReLD）。虽然ReLD和mReLD已被广泛用于统计，分子动力学和其他应用，但其收敛速度和温度选择的现有分析有限。本文解决这些问题，假设目标分布是一个混合的对数凹密度。我们表明ReLD可以获得恒定或更好的收敛速度。我们还表明，mReLD与K个额外的LD可以实现相同的结果，而交换频率只需要在ReLD中的（1/K）次幂。
Langevin diffusion (LD) is one of the main workhorses for sampling problems. However, its convergence rate can be significantly reduced if the target distribution is a mixture of multiple densities, especially when each component density concentrates around a different mode. Replica exchange Langevin diffusion (ReLD) is a sampling method that can circumvent this issue. This approach can be further extended to multiple replica exchange Langevin diffusion (mReLD). While ReLD and mReLD have been used extensively in statistics, molecular dynamics, and other applications, there is limited existing analysis on its convergence rate and choices of the temperatures. This paper addresses these problems assuming the target distribution is a mixture of log-concave densities. We show ReLD can obtain constant or better convergence rates. We also show mReLD with K additional LDs can achieve the same results while the exchange frequency only needs to be (1/K)-th power of the one in ReLD.
登录
查看更多内容
用于训练受限玻尔兹曼机的无限交换算法
DOI：
--
发表时间：
2020
期刊：
影响因子：
--
作者：
H. Hult;P. Nyquist;C. Ringqvist
通讯作者：
C. Ringqvist
DOI：
10.1214/14-aap1022
发表时间：
2015
期刊：
The Annals of Applied Probability
影响因子：
--
作者：
Andrieu C
通讯作者：
Andrieu C
DOI：
--
发表时间：
2020-01
期刊：
J. Mach. Learn. Res.
影响因子：
--
作者：
Jing Dong;Xin T. Tong
通讯作者：
Jing Dong;Xin T. Tong
影响因子：
5.5
作者：
Daniel J. Sindhikara;Daniel J. Emerson;A. Roitberg
通讯作者：
Daniel J. Sindhikara;Daniel J. Emerson;A. Roitberg
中心极限定理和庞加莱型不等式
DOI：
--
发表时间：
1988
期刊：
影响因子：
--
作者：
Louis H. Y. Chen
通讯作者：
Louis H. Y. Chen