基于李雅普诺夫阻尼的近最优闭环凸优化方法
最优化与控制
2024-04-16 v2 机器学习
动力系统
摘要
我们引入了一种带闭环阻尼的自治系统用于一阶凸优化。尽管迄今为止最优收敛速率几乎 exclusively 由带开环阻尼的非自治方法(如 Nesterov 算法)实现,我们展示了我们的具有闭环阻尼的系统展现出任意接近最优的速率。我们通过精心选择的李雅普诺夫函数将阻尼与系统收敛速度耦合来实现这一点。通过对我们的系统离散化,我们推导出一种算法,并给出了支持我们理论发现的数值实验。
引用
@article{arxiv.2311.10053,
title = {Near-optimal Closed-loop Method via Lyapunov Damping for Convex Optimization},
author = {Severin Maier and Camille Castera and Peter Ochs},
journal= {arXiv preprint arXiv:2311.10053},
year = {2024}
}