近似对偶间隙技术：一阶方法的统一理论

我们提出一种用于分析一阶方法的通用技术。该技术依赖于为目标函数的适当近似构造对偶间隙，其中函数近似随算法收敛而改善。我们表明，在连续时间中强制一个不变量使得该近似对偶间隙以特定速率下降，恰好可恢复多种一阶连续时间方法。我们刻画了不同离散化方法所产生的离散化误差，并展示了针对各类问题的迭代复杂度最优方法如何抵消该离散化误差。这些技术在多类问题上得到阐释——包括Lipschitz连续目标的凸最小化、光滑凸最小化、复合最小化、光滑强凸最小化、用单调算子求解变分不等式，以及凸凹鞍点优化——并可自然推广至其他情形。