Ergodicity of the infinite swapping algorithm at low temperature
Ergodicity of the infinite swapping algorithm at low temperature
复制标题
低温下无限交换算法的遍历性
DOI：
10.1016/j.spa.2022.06.015
复制
发表时间：
2022
影响因子：
1.4
通讯作者：
Wu, Tianqi
中科院分区：
文献类型：
--
作者：
Menz, Georg;Schlichting, André;Tang, Wenpin;Wu, Tianqi
在低温下对吉布斯测度进行采样是一项重要但在计算上具有挑战性的任务。数值实验表明，无限交换算法是一种很有前途的方法。伊萨可以看作是平行回火复型法的改进。我们严格分析了低温条件下伊萨的各态历经性质，推导出光谱间隙（或庞加莱常数）的渐进估计（在一维中最优）以及log-Sobolev常数的估计。我们的主要结果表明，有效的能量势垒可以大大减少使用伊萨相比，经典的过阻尼朗之万动力学。作为推论，我们得到一个浓度不等式，表明采样也提高了一个指数因子。最后，我们研究模拟退火的伊萨和证明伊萨再次优于过阻尼Langevin动力学。
Sampling Gibbs measures at low temperatures is an important but computationally challenging task. Numerical evidence suggests that the infinite-swapping algorithm (isa) is a promising method. The isa can be seen as an improvement of the parallel tempering replica method. We rigorously analyze the ergodic properties of the isa in the low temperature regime, deducing asymptotic estimates for the spectral gap (or Poincaré constant), optimal in dimension one, and an estimate for the log-Sobolev constant. Our main results indicate that the effective energy barrier can be reduced drastically using the isa compared to the classical over-damped Langevin dynamics. As a corollary, we derive a concentration inequality showing that sampling is also improved by an exponential factor. Finally, we study simulated annealing for the isa and prove that the isa again outperforms the over-damped Langevin dynamics.
登录
查看更多内容
用于训练受限玻尔兹曼机的无限交换算法
DOI：
--
发表时间：
2020
期刊：
影响因子：
--
作者：
H. Hult;P. Nyquist;C. Ringqvist
通讯作者：
C. Ringqvist
DOI：
--
发表时间：
1999
期刊：
影响因子：
--
作者：
K. Nara
通讯作者：
K. Nara
影响因子：
1.5
作者：
Bouchet, Freddy;Reygner, Julien
通讯作者：
Reygner, Julien
DOI：
--
发表时间：
2020-01
期刊：
J. Mach. Learn. Res.
影响因子：
--
作者：
Jing Dong;Xin T. Tong
通讯作者：
Jing Dong;Xin T. Tong
从连续到离散的模拟退火：通过 Eyring-Kramers 定律进行收敛分析
DOI：
--
发表时间：
2021
期刊：
影响因子：
--
作者：
Wenpin Tang;X. Zhou
通讯作者：
X. Zhou