一维光滑函数驻点寻找的复杂度
最优化与控制
2023-03-21 v2
摘要
我们刻画了寻找一维非凸但光滑函数驻点的查询复杂度。我们考虑四种设定,基于所考察的算法是确定性的还是随机化的,以及预言机输出一阶信息还是同时输出零阶与一阶信息。我们的结果表明,用于该任务的算法通过引入随机性或零阶信息可证明地获益。我们的结果还表明,对于每一维数 ,在仅使用一阶查询的确定性算法中,梯度下降是最优的。
引用
@article{arxiv.2209.07513,
title = {On the complexity of finding stationary points of smooth functions in one dimension},
author = {Sinho Chewi and Sébastien Bubeck and Adil Salim},
journal= {arXiv preprint arXiv:2209.07513},
year = {2023}
}
备注
17 pages, 3 figures