Continuized Nesterov 动量在无额外机制下实现 $O(\varepsilon^{-7/4})$ 复杂度
最优化与控制
2026-05-27 v3
摘要
对于非凸函数的一阶优化问题，若梯度与 Hessian 均满足 Lipschitz 连续，达到其稳定点的 近似所需的最佳复杂度为 。已知实现此界限的算法基于动量，但始终伴随保护机制——若满足某些条件则抹去累积的动量。是否需要此类重置动量机制仍是未解之谜。我们表明，通过随机化参数可在使用动量且无需此类机制的情况下以高概率实现此复杂度。从分析角度看，我们利用 continuized 方法，即将算法解释为涉及泊松过程的连续时间随机微分方程的实现。
引用
@article{arxiv.2602.05504,
title = {Continuized Nesterov Momentum Achieves the $O(\varepsilon^{-7/4})$ Complexity without Additional Mechanisms},
author = {Julien Hermant and Jean-François Aujol and Charles Dossal and Lorick Huang and Aude Rondepierre and Irène Waldspurger},
journal= {arXiv preprint arXiv:2602.05504},
year = {2026}
}