一种协作扩散高斯-牛顿策略的收敛性分析
最优化与控制
2019-03-06 v2 分布式、并行与集群计算
摘要
在本文中，我们研究了一种协作扩散高斯-牛顿（GN）方法的收敛性能，由于相比牛顿法计算成本低，该方法被广泛用于求解非线性最小二乘问题（NLLS）。这种扩散GN收集网络上时空信息的多样性，用于局部更新。为了解决收敛性分析中的挑战，我们首先考虑在空间和时空尺度上建立全局递归关系，因为传统GN是一种时间迭代方法，且需要求解全网范围的NLLS。其次，由于协作与非协作两个版本GN更新步骤中下降差异的不确定性，导出的与连续两次迭代间全网偏差相关的递归是模糊的。因此，一项重要工作是推导该差异的有界性条件。最后，基于时空递归关系和离散动力系统的稳态平衡理论，我们得到了算法收敛的充分条件，这些条件要求良好的初始猜测、合理的步长值以及网络连接性。该分析为此扩散GN方法的应用提供了指导。
引用
@article{arxiv.1811.12806,
title = {Convergence Analysis of a Cooperative Diffusion Gauss-Newton Strategy},
author = {Mou Wu and Naixue Xiong and Liansheng Tan},
journal= {arXiv preprint arXiv:1811.12806},
year = {2019}
}