中文

零阶方法高效避开鞍点:无需梯度

最优化与控制 2019-10-30 v1 机器学习 机器学习

摘要

我们考虑非凸优化的无导数算法(亦称零阶算法)的情形,此类算法仅使用函数求值而非梯度。对于基于有限差分的多种梯度近似器,我们通过精心定制的稳定流形定理应用,建立了到二阶平稳点的渐近收敛性。在效率方面,我们引入一种含噪零阶方法,其收敛到二阶平稳点,即避开鞍点。我们的算法仅使用 O~(1/ϵ2)\tilde{\mathcal{O}}(1 / \epsilon^2) 次近似梯度计算,因此与精确梯度对应方法在常数因子内匹配收敛速率保证。与先前工作相比,我们的收敛速率分析避免了对非凸零阶优化所需迭代次数施加额外的维度相关减速。

关键词

引用

@article{arxiv.1910.13021,
  title  = {Efficiently avoiding saddle points with zero order methods: No gradients required},
  author = {Lampros Flokas and Emmanouil-Vasileios Vlatakis-Gkaragkounis and Georgios Piliouras},
  journal= {arXiv preprint arXiv:1910.13021},
  year   = {2019}
}

备注

To appear in NeurIPS 2019