动态环境下基于 Mirror Descent 的分布式在线优化

本工作研究非平稳环境下的去中心化在线优化。一个由多个智能体组成的网络旨在跟踪一个全局时变凸函数的极小值点。该极小值点按照已知动力学演化，并受到未知且无结构噪声的干扰。在每个时刻，全局函数可表示为有限个局部函数之和，其中每个局部函数分配给网络中的一个智能体。此外，局部函数按顺序对智能体可用，且智能体对未来代价函数没有先验知识。因此，智能体必须相互通信以构建全局函数的在线近似。我们提出了由 Nemirovski 和 Yudin 提出的著名 Mirror Descent 的一种去中心化变体。通过使用 Bregman 散度代替欧氏距离进行投影，Mirror Descent 已被证明是大规模优化的有力工具。我们的算法建立在 Mirror Descent 之上，同时确保智能体执行共识步骤以跟踪全局函数，并将全局极小值点的动力学纳入考量。为衡量所提在线算法的性能，我们将其与离线对应算法进行比较，后者中全局函数是先验已知的。两者之间的差距被称为动态遗憾。我们建立了一个遗憾界，该界与网络的谱隙成反比，且更显著地，它表示极小值点序列相对于给定动力学的偏差。我们随后证明我们的结果包含分布式优化中的若干结果。我们展示了该方法在动态参数去中心化跟踪中的应用，并通过数值实验验证了结果。