一种带拟牛顿跟踪的分散式原始-对偶方法
最优化与控制
2024-10-02 v4
摘要
本文考虑在固定连通无向网络上最小化有限个强凸且二次连续可微函数之和的分散式优化问题。提出了一种完全分散式原始-对偶方法（DPDM）及其推广（GDPDM），后者允许每次迭代进行多次原始步。在我们的方法中，原始更新与对偶更新均使用由拟牛顿技术获得的二阶信息，且仅涉及矩阵-向量乘法。具体而言，原始更新采用基于 BFGS 近似的 Jacobi 松弛步，以提升计算与通信效率。对偶更新采用一种新的二阶校正步。我们证明了各节点上的分散式局部原始更新方向渐近逼近集中式拟牛顿方向。在参数选取适当时，包含 DPDM 在内的 GDPDM 在求解强凸分散式优化问题时具有全局线性收敛性。数值结果表明，相较于其他求解分散式优化的前沿（state-of-the-art）方法，GDPDM 与 DPDM 均非常高效。
引用
@article{arxiv.2304.01614,
title = {A Decentralized Primal-Dual Method with Quasi-Newton Tracking},
author = {Liping Wang and Hao Wu and Hongchao Zhang},
journal= {arXiv preprint arXiv:2304.01614},
year = {2024}
}
备注
40 pages, 29 figures