Analysis of Fully Preconditioned Alternating Direction Method of Multipliers with Relaxation in Hilbert Spaces
Analysis of Fully Preconditioned Alternating Direction Method of Multipliers with Relaxation in Hilbert Spaces
复制标题
希尔伯特空间中松弛乘法器全预处理交替方向法分析
DOI：
10.1007/s10957-019-01535-6
复制
发表时间：
2019-05
影响因子：
1.9
通讯作者：
Sun Hongpeng
中科院分区：
文献类型：
--
作者：
Sun Hongpeng
乘法器的交替方向法是一种强大的一阶非光滑优化方法，在反问题和成像中有着广泛的应用。然而，关于乘法器的交替方向法在无限维Hilbert空间中的弱收敛性，目前还没有明确的结果。本文利用一种偏间隙分析，证明了无限维Hilbert空间中一般预条件松弛版本的弱收敛性，并在温和条件下对所涉及的所有隐式方程进行了预条件解。并给出了相应的遍历收敛速率。此外，还讨论了某些预条件和松弛交替方向乘子方法与相应的Douglas-Rachford分裂方法之间的联系。数值试验结果表明了该方法的有效性。
Alternating direction method of multipliers is a powerful first-order method for non-smooth optimization problems including various applications in inverse problems and imaging. However, there is no clear result on the weak convergence of alternating direction method of multipliers in infinite-dimensional Hilbert spaces with relaxation. In this paper, by employing a kind of partial gap analysis, we prove the weak convergence of a general preconditioned and relaxed version in infinite-dimensional Hilbert spaces, with preconditioning for solving all the involved implicit equations under mild conditions. We also give the corresponding ergodic convergence rates respecting to the partial gap function. Furthermore, the connections between certain preconditioned and relaxed alternating direction method of multipliers and the corresponding Douglas–Rachford splitting methods are discussed. Numerical tests show the efficiency of the proposed overrelaxation variants with preconditioning.
登录
查看更多内容
DOI：
10.1137/1.9781611973785
发表时间：
2015-11
期刊：
--
影响因子：
--
作者：
R. Glowinski
通讯作者：
R. Glowinski
影响因子：
1.9
作者：
K. Bredies;Hongpeng Sun
通讯作者：
K. Bredies;Hongpeng Sun
DOI：
10.1137/1.9781611970838
发表时间：
1987
期刊：
--
影响因子：
--
作者：
R. Glowinski;P. Tallec
通讯作者：
R. Glowinski;P. Tallec
影响因子：
2.7
作者：
ECKSTEIN, J;BERTSEKAS, DP
通讯作者：
BERTSEKAS, DP
DOI：
10.1115/1.3169136
发表时间：
1985-09
期刊：
Journal of Applied Mechanics
影响因子：
--
作者：
R. Glowinski;J. Oden
通讯作者：
R. Glowinski;J. Oden