NEAR-DGD 在非凸优化中的收敛性及二阶保证
最优化与控制
2021-04-12 v2
摘要
我们考虑一个无向连通网络的节点协作求解共享目标函数的情形,该目标函数建模为若干光滑函数之和。我们假设每一项仅由唯一节点私有知晓。NEAR-DGD 是一种分布式一阶方法,允许调节节点间通信量与本地计算量之比,以平衡收敛精度与总应用代价。在本工作中,我们将 NEAR-DGD 一种变体的收敛性质从强凸情形推广至非凸情形。在温和假设下,我们证明其收敛至一个定制 Lyapunov 函数的极小点。此外,我们表明这些极小点与原问题二阶平稳解之间的差距可随算法参数的选择而任意小。最后,我们以数值实验伴随理论分析,以评估 NEAR-DGD 在非凸设定下的经验性能。
引用
@article{arxiv.2103.14233,
title = {On the Convergence of NEAR-DGD for Nonconvex Optimization with Second Order Guarantees},
author = {Charikleia Iakovidou and Ermin Wei},
journal= {arXiv preprint arXiv:2103.14233},
year = {2021}
}