时变性限制梯度型在线优化中的收敛速率
最优化与控制
2025-10-15 v1 系统与控制
系统与控制
摘要
本文探讨了梯度型算法用于时变优化的根本性能限。利用内部模型原理和根轨迹技术,我们表明时变性对可实现的收敛速率施加了内在限制。对于条件比为 、且时变模型阶数为 的问题,我们指出,任何最小阶梯度型算法的最坏情况收敛速率为 。该界限揭示了问题条件、时变复杂度与收敛速率之间的根本性权衡。我们进一步构造了显式控制器,以达到低阶时变模型的该界限。
引用
@article{arxiv.2510.12512,
title = {Temporal Variabilities Limit Convergence Rates in Gradient-Based Online Optimization},
author = {Bryan Van Scoy and Gianluca Bianchin},
journal= {arXiv preprint arXiv:2510.12512},
year = {2025}
}