一种利用 Koopman 算子的基于梯度的优化方法
最优化与控制
2023-12-25 v1
摘要
在本文中，我们提出了一种通过将其重构为动力系统并随后应用自适应谱 Koopman (ASK) 方法来解决优化问题的新颖方法。我们方法中采用的 Koopman 算子利用有限数量的特征函数和特征值来近似常微分方程 (ODE) 的演化。我们首先简要概述 Koopman 算子和 ASK 方法。随后，我们调整 ASK 方法以解决一般优化问题。此外，我们提供了误差界以帮助理解所提方法的性能，标志着更全面数值分析的初步步骤。实验上，我们展示了该方法在包括极小 - 极大问题在内的各种优化问题中的适用性和准确性。与最先进的基于梯度的方法相比，我们的方法始终产生更小的梯度范数和更高的寻找临界点成功率。我们还观察到，当系统的动力学特性可以通过临界点邻域内的系统行为有效建模时，所提方法表现尤为出色。
引用
@article{arxiv.2312.14361,
title = {A Gradient-Based Optimization Method Using the Koopman Operator},
author = {Mengqi Hu and Bian Li and Yi-An Ma and Yifei Lou and Xiu Yang},
journal= {arXiv preprint arXiv:2312.14361},
year = {2023}
}