分散式在线随机非凸优化的一种改进收敛性分析
最优化与控制
2021-04-21 v2 机器学习
多智能体系统
系统与控制
系统与控制
机器学习
摘要
本文研究节点网络上的分散式在线随机非凸优化。通过在分散式随机梯度下降中集成一种称为梯度跟踪的技术，我们表明所得算法 GT-DSGD 在最小化光滑非凸函数之和时具备某些理想特性。特别地，对一般光滑非凸函数，我们建立了 GT-DSGD 的非渐近刻画，并推导出其达到与网络无关、匹配集中式小批量 SGD 性能的条件。相反，已有结果表明 GT-DSGD 总是依赖于网络，因此严格劣于集中式小批量 SGD。当全局非凸函数额外满足 Polyak-Lojasiewics（PL）条件时，我们以适当常数步长建立了 GT-DSGD 直至稳态误差的线性收敛。此外，在随机近似步长下，我们首次建立了几乎每条样本路径上的最优全局次线性收敛率，以及期望中渐近最优的次线性率。由于强凸函数是满足 PL 条件函数的特例，我们的结果不仅立即可用，而且改进了当前已知的最佳收敛率及其对问题参数的依赖。
引用
@article{arxiv.2008.04195,
title = {An improved convergence analysis for decentralized online stochastic non-convex optimization},
author = {Ran Xin and Usman A. Khan and Soummya Kar},
journal= {arXiv preprint arXiv:2008.04195},
year = {2021}
}