中文

时变性限制梯度型在线优化中的收敛速率

最优化与控制 2025-10-15 v1 系统与控制 系统与控制

摘要

本文探讨了梯度型算法用于时变优化的根本性能限。利用内部模型原理和根轨迹技术,我们表明时变性对可实现的收敛速率施加了内在限制。对于条件比为 κ\kappa、且时变模型阶数为 nn 的问题,我们指出,任何最小阶梯度型算法的最坏情况收敛速率为 ρTV=(κ1κ+1)1/n\rho_\text{TV} = (\frac{\kappa-1}{\kappa+1})^{1/n}。该界限揭示了问题条件、时变复杂度与收敛速率之间的根本性权衡。我们进一步构造了显式控制器,以达到低阶时变模型的该界限。

关键词

引用

@article{arxiv.2510.12512,
  title  = {Temporal Variabilities Limit Convergence Rates in Gradient-Based Online Optimization},
  author = {Bryan Van Scoy and Gianluca Bianchin},
  journal= {arXiv preprint arXiv:2510.12512},
  year   = {2025}
}