加速梯度方法的新视角：受控不变流形方法
最优化与控制
2023-06-01 v3
摘要
梯度下降（GD）是求解优化问题最优解的普遍算法。为降低计算复杂度，必须在最少迭代次数内达到优化问题的最优解x*。为此，本文通过受控动力系统的视角提出了一种加速梯度算法的起源。在给定初始条件x(0)下，以控制手段实现最优地到达满足∇f(x*)=0的最优解x*这一目标。
引用
@article{arxiv.2305.10756,
title = {A New Perspective of Accelerated Gradient Methods: The Controlled Invariant Manifold Approach},
author = {Revati Gunjal and Sushama Wagh and Syed Shadab Nayyer and Alex Stankovic and Navdeep M. Singh},
journal= {arXiv preprint arXiv:2305.10756},
year = {2023}
}