何时为何时乐观乘性权重算法缓慢？能量耗散的几何

本文研究乐观乘性权重更新算法 (OMWU) 在两人零和博弈中的收敛性。近期文献指出 OMWU 的最后迭代可以在任意情况下收敛得非常缓慢，但理解这种缓慢收敛何时何地发生一直是开放问题。本文我们发展了一种新的分析框架，给出这些行为的尖锐、定量解释。我们的分析基于将算法的对偶迭代视为针对能量函数的乐观倾斜梯度下降。我们证明对偶迭代而言能量是耗散的，通过建立耗散量的紧密界限，我们的分析量化了当原始迭代接近单纯形边界时出现的几何瓶颈。这进一步转化为在具有唯一内部纳什均衡的博弈中，对偶迭代的 KL 发散上的新的线性最后迭代收敛率。与先前工作相比，这一新的收敛率包含更锐利的博弈特定常数依赖性，我们证明这种依赖性是最优的。此外，这些几何洞察进一步转化为 OMWU 的均匀收敛率的新的分离。在一个方面，我们证明在 KL 发散和总变距离距离纳什的均匀最佳迭代收敛率上存在常数下界。在另一个方面，我们在 $2\times 2$ 情形下建立了一个新的 ${\widetilde O}(T^{-1/2})$ 最佳迭代收敛率于对偶间隙，显著改进了先前工作。总体而言，这表明在不同纳什距离度量之间，均匀收敛率保证不会相互传递。