采用 Barzilai-Borwein 步长的分布式优化的几何收敛性

我们考虑一个定义在时不变无向图上的分布式多智能体优化问题，其中每个智能体拥有局部目标函数，所有智能体通过邻居间的局部计算与通信协作最小化全部目标函数的平均值。近来，一类分布式梯度方法被提出，在使用常数步长时可同时实现精确收敛与几何收敛。这些方法的几何收敛性在保守选取步长时得以保证，但如何在算法运行中选取合适步长尚未被充分解决。Barzilai-Borwein（BB）方法是一种简单有效的步长选取技术，所需存储少且计算代价低，已被广泛应用于诸多领域。本文将 BB 方法引入分布式优化。基于动态平均一致性方法的 adapt-then-combine 变体并使用多一致性内循环，我们提出一种带 BB 步长的分布式梯度方法（DGM-BB-C）。我们的方法为每个智能体自动计算步长，仅依赖其局部信息且独立于其他智能体，且较大的步长始终可行。当一致性步数保持恒定时，我们的方法可求得精确最优解。我们证明 DGM-BB-C 对最优解具有几何收敛性。在一个分布式感知问题上的仿真结果表明，就迭代次数、梯度评估、通信及相关代价框架而言，我们的方法优于若干先进方法。这些结果验证了我们的理论发现。