基于单点残差反馈的分布式在线非凸带隙优化动态遗憾分析

本文研究了时变有向图上的分布式在线带隙优化问题，其损失函数为非凸函数。该问题可视为一组在线玩家与对手之间的重复博弈。在每一轮中，每个玩家从约束集中选择一个决策，然后对手为该玩家分配一个任意的、可能是非凸的损失函数。只有当前轮的损失值（而非整个损失函数或任何其他信息，如梯度）被私下透露给玩家。玩家的目标是使一系列全局损失函数（即局部损失之和）最小化。我们观察到，传统的多点带隙算法不适用于在线优化，因为损失函数的数据并非全部先验可知，而单点带隙算法的遗憾保证较差。为了解决这些问题，我们提出了一种新颖的基于单点残差反馈的分布式在线算法。该算法利用两个点的残差来估计梯度，在保持每次迭代 $\mathcal{O}(1)$ 采样复杂度的同时，有效降低了遗憾界。我们采用严格的指标——动态遗憾——来评估算法的性能。通过适当选择步长和平滑参数，我们证明了只要目标函数序列的偏差和最小化路径长度呈次线性增长，我们算法的期望动态遗憾与使用两点反馈的现有算法相当。最后，我们通过数值模拟验证了所提算法的有效性。