单点反馈零阶算法能否实现线性维度依赖的样本复杂度？
最优化与控制
2025-08-19 v1
摘要
我们重新审视单点反馈零阶（ZO）优化问题，这是无导数优化中的一个经典设定，其中每次查询只能获得一次带噪声的函数评估。与两点反馈方法相比，现有的单点反馈零阶算法在样本复杂度上通常存在较差的维度依赖性——往往是二次或更差——即使对于凸问题也是如此。这一差距引出了一个悬而未决的问题：单点反馈零阶算法能否达到两点方法所实现的最优的线性维度依赖性。在这项工作中，我们肯定地回答了这个问题。
引用
@article{arxiv.2508.12228,
title = {Can a One-Point Feedback Zeroth-order Algorithm Achieve Linear Dimension Dependent Sample Complexity?},
author = {Haishan Ye and Xiangyu Chang},
journal= {arXiv preprint arXiv:2508.12228},
year = {2025}
}