PL条件下求解优化问题的高阶光滑零阶方法
最优化与控制
2023-11-29 v2
摘要
本文研究Polyak--Lojasiewicz (PL)条件下的黑箱优化问题，假设目标函数不仅光滑，而且具有更高阶的光滑性。通过在随机梯度下降法中使用“基于核”的近似代替精确梯度，我们改进了在PL条件下求解该问题的无梯度算法类中已知的最佳收敛结果。我们将结果推广到零阶预言机返回带某种对抗噪声的点处函数值的情况。我们在求解非线性方程组的实例上验证了我们的理论结果。
引用
@article{arxiv.2305.15828,
title = {Highly Smoothness Zero-Order Methods for Solving Optimization Problems under PL Condition},
author = {Aleksandr Lobanov and Alexander Gasnikov and Fedor Stonyakin},
journal= {arXiv preprint arXiv:2305.15828},
year = {2023}
}