Polyak 步长：无需参数或先验知识即可估计最优函数值
最优化与控制
2025-08-26 v1
摘要
Polyak 步长因其快速收敛性而为梯度下降法所知晓，但需要对最优函数值进行先验知识，而这在实际中往往不可得。本文提出一种无参数的方法，通过算法运行时估计该未知值，从而实现无参数步长方案。我们的 метод 维护两组迭代解：一组使用 Polyak 步长更新具有较高函数值的解，另一组具有较低函数值的解用于估计最优函数值。我们对该方法进行理论分析，并通过数值实验验证其性能。结果表明，该方法在不依赖函数相关先验信息的情况下，达到了与竞争方法相似的性能。
引用
@article{arxiv.2508.17288,
title = {Polyak Stepsize: Estimating Optimal Functional Values Without Parameters or Prior Knowledge},
author = {Farshed Abdukhakimov and Cuong Anh Pham and Samuel Horváth and Martin Takáč and Slavomır Hanzely},
journal= {arXiv preprint arXiv:2508.17288},
year = {2025}
}
备注
9 pages main paper