中文

一维光滑函数驻点寻找的复杂度

最优化与控制 2023-03-21 v2

摘要

我们刻画了寻找一维非凸但光滑函数驻点的查询复杂度。我们考虑四种设定,基于所考察的算法是确定性的还是随机化的,以及预言机输出一阶信息还是同时输出零阶与一阶信息。我们的结果表明,用于该任务的算法通过引入随机性或零阶信息可证明地获益。我们的结果还表明,对于每一维数 d1d \geq 1,在仅使用一阶查询的确定性算法中,梯度下降是最优的。

关键词

引用

@article{arxiv.2209.07513,
  title  = {On the complexity of finding stationary points of smooth functions in one dimension},
  author = {Sinho Chewi and Sébastien Bubeck and Adil Salim},
  journal= {arXiv preprint arXiv:2209.07513},
  year   = {2023}
}

备注

17 pages, 3 figures