一阶方法收敛至非凸函数全局极小化器需指数时间
机器学习
2021-07-07 v2 机器学习
摘要
机器学习算法通常在一类非凸函数上执行优化。本工作中,我们给出了识别非凸函数全局极小化器基本难度的下界。具体而言,我们设计了一族参数化非凸函数,并采用参数估计的统计下界。我们表明该参数估计问题等价于给定函数族中的函数辨识问题。进而我们断言非凸优化至少与函数辨识一样困难。综合起来,我们证明任何一阶方法收敛至全局极小化器都可能需要指数时间。
引用
@article{arxiv.2002.12911,
title = {First Order Methods take Exponential Time to Converge to Global Minimizers of Non-Convex Functions},
author = {Krishna Reddy Kesari and Jean Honorio},
journal= {arXiv preprint arXiv:2002.12911},
year = {2021}
}