分析基于分散式随机连续凸近似的复合非凸问题
最优化与控制
2024-05-29 v2 信号处理
摘要
本文考虑基于分散式连续凸近似(SCA)的方法，用于最小化受凸约束约束的随机非凸目标，可能包含非光滑凸正则化项。尽管SCA在分散式环境中得到广泛应用，但其随机一阶( SFO)复杂度尚未知晓，认为其速度慢于集中式动量增强型SCA变体。在本工作中，我们通过提出名为D-MSSCA(Decentralized Momentum-based Stochastic SCA)的加速变体，推动了SCA方法的最新进展，并分析其SFO复杂度。该算法的关键在于在每个迭代步骤中创建目标的随机替代函数，并在每个节点处分别对其进行最小化。令人惊讶的是，D-MSSCA实现了的SFO复杂度，以达到-stationary点，这与集中式设置下无约束随机非凸优化的SFO复杂度下界相当。
引用
@article{arxiv.2405.07100,
title = {Analysis of Decentralized Stochastic Successive Convex Approximation for composite non-convex problems},
author = {Basil M. Idrees and Shivangi Dubey Sharma and Ketan Rajawat},
journal= {arXiv preprint arXiv:2405.07100},
year = {2024}
}