一种用于寻找非凸优化三阶临界点自适应高阶方法
最优化与控制
2020-08-11 v1
摘要
众所周知，寻找全局最优解对非凸优化而言极具挑战性。近期已有一些工作（\cite{anandkumar2016efficient, cartis2018second, cartis2020sharp, chen2019high}）关注于计算高阶临界点的优化方法，这类方法可排除所谓的退化鞍点并获得质量更优的解。尽管\cite{anandkumar2016efficient, cartis2018second, cartis2020sharp, chen2019high}中已有理论进展，但相应的数值实验尚缺。本文提出一种可实现的名为自适应高阶方法（AHOM）的高阶方法，旨在寻找三阶临界点。该方法通过求解一个“更易”的子问题，并在算法每次迭代中引入参数调节的自适应策略来实现。我们建立了所提方法的迭代复杂度。初步数值结果表明，AHOM能够逃离退化鞍点，而二阶方法可能会被困于其中。
引用
@article{arxiv.2008.04191,
title = {An Adaptive High Order Method for Finding Third-Order Critical Points of Nonconvex Optimization},
author = {Xihua Zhu and Jiangze Han and Bo Jiang},
journal= {arXiv preprint arXiv:2008.04191},
year = {2020}
}