随机梯度下降的战略查询
机器学习
2025-08-26 v1 最优化与控制
摘要
本文考虑在一阶查询条件下的有限和优化问题，探讨了战略查询相对于均匀查询策略对基于随机梯度的方法所产生的益处。首先，我们引入Oracle Gradient Querying（OGQ），这是一种理想化算法，每次选择产生最大可能预期改进（expected improvement, EI）的用户梯度。然而，OGQ假设对所有用户的梯度都有oracle访问才能实现此选择，在实际场景中难以实现。为此，我们提出了战略梯度查询（Strategic Gradient Querying, SGQ）一种实用算法，相较于SGD在瞬态状态性能更好，同时每迭代仅进行一次查询。对于满足Polyak-Lojasiewicz条件的光滑目标函数，我们在EI异构性假设下证明，OGQ可提高瞬态状态性能并降低稳态方差，而SGQ在瞬态状态性能优于SGD。我们的数值实验验证了我们的理论发现。
引用
@article{arxiv.2508.17144,
title = {Stochastic Gradient Descent with Strategic Querying},
author = {Nanfei Jiang and Hoi-To Wai and Mahnoosh Alizadeh},
journal= {arXiv preprint arXiv:2508.17144},
year = {2025}
}
备注
18 pages, 2 figures. Accepted to IEEE Conference on Decision and Control (CDC) 2025. Includes appendix and supplementary discussion