用于理解离散时间算法的 $O(s^r)$-分辨率 ODE 框架及其在极小极大问题线性收敛中的应用

利用常微分方程（ODEs）来理解离散时间算法（DTAs）的动态行为有着悠久的历史。令人惊讶的是，仍有两个基本且未解决的问题：（i）如何从给定的 DTA 获得\emph{合适的} ODE 尚不清楚；（ii）DTA 的收敛性与其对应 ODE 之间的联系尚不清楚。在本文中，我们提出一种新的机制——一个 $O(s^r)$-分辨率 ODE 框架——用于分析一般 DTA 的行为，它（部分地）回答了上述两个问题。该框架包含三个步骤：1. 为从给定 DTA 获得合适的 ODE，我们定义 DTA 的以阶数 $r$ 为参数的 $O(s^r)$-分辨率 ODE 层次结构，其中 $s$ 是 DTA 的步长。我们给出从 DTA 构造唯一 $O(s^r)$-分辨率 ODE 的主要方法；2. 为分析所得 ODE，我们提出 DTA 关于能量函数的 $O(s^r)$-线性收敛条件，在该条件下 $O(s^r)$-分辨率 ODE 线性收敛到最优解；3. 为桥接 DTA 与其对应 ODE 的收敛性质，我们定义能量函数的恰当性，并证明 $O(s^r)$-分辨率 ODE 关于恰当能量函数的线性收敛可自动保证 DTA 的线性收敛。为更好地说明这一机制，我们将其用于研究三种经典算法——梯度下降上升（GDA）、邻近点法（PPM）和额外梯度法（EGM）——以求解无约束极小极大问题 $\min_{x\in\RR^n} \max_{y\in \RR^m} L(x,y)$。