用于分散弱凸优化的 Moreau 包络 ADMM
最优化与控制
2023-09-01 v1 机器学习
摘要
本文提出了一种用于分布式优化的乘子交替方向法（ADMM）的近端正则变体。尽管现有版本的 ADMM 算法在为许多凸和非凸优化问题生成接近最优的解方面提供了有前景的数值结果，但对于弱凸且局部非光滑函数，它们是否能收敛到驻点仍不清楚。通过使用 Moreau 包络函数的分析，我们证明 MADM 确实可以在温和条件下收敛到驻点。我们的分析还包括通过将 Moreau 包络函数的梯度与近端正则函数相关联，计算对偶变量更新步长变化量的界。此外，我们的数值实验结果表明，我们的方法比广泛使用的途径更快且更鲁棒。
引用
@article{arxiv.2308.16752,
title = {Moreau Envelope ADMM for Decentralized Weakly Convex Optimization},
author = {Reza Mirzaeifard and Naveen K. D. Venkategowda and Alexander Jung and Stefan Werner},
journal= {arXiv preprint arXiv:2308.16752},
year = {2023}
}