中文

各阶光滑性下凸优化的近最优下界

最优化与控制 2021-12-06 v1 机器学习 量子物理

摘要

我们研究高度光滑凸函数的优化复杂度。对于正整数 pp,我们希望找到一个凸函数 ffϵ\epsilon-近似极小值,给定对函数及其前 pp 阶导数的预言机访问权限,并假设 ffpp 阶导数满足 Lipschitz 条件。最近,三个独立的研究小组(Jiang 等人,PLMR 2019;Gasnikov 等人,PLMR 2019;Bubeck 等人,PLMR 2019)开发了一种新算法,以 O~(1/ϵ23p+1)\tilde{O}(1/\epsilon^{\frac{2}{3p+1}}) 次预言机调用解决了该问题(对于常数 pp)。已知该结果对于确定性算法是最优的(至多相差对数因子),但针对随机算法的已知下界与该界不匹配。我们证明了一个新的下界,其与该界相匹配(至多相差对数因子),且不仅适用于随机算法,也适用于量子算法。

关键词

引用

@article{arxiv.2112.01118,
  title  = {Near-Optimal Lower Bounds For Convex Optimization For All Orders of Smoothness},
  author = {Ankit Garg and Robin Kothari and Praneeth Netrapalli and Suhail Sherif},
  journal= {arXiv preprint arXiv:2112.01118},
  year   = {2021}
}

备注

To be presented as a spotlight talk at NeurIPS 2021