无公共随机数条件下的随机拟牛顿法
最优化与控制
2024-09-04 v2
摘要
我们提出一种用于无约束随机优化的拟牛顿法。该主题的现有文献大多假设一种随机优化设定，其中分量函数的有限和是期望的合理近似，因此可以设计拟牛顿法来利用公共随机数。与之相反，受变分量子算法中问题的启发，我们假设函数值和梯度仅能通过不精确的概率性零阶和一阶预言机获得，且无法利用公共随机数。我们的算法框架——基于先前关于 SASS 算法的工作——具有通用性，且不假设公共随机数。我们推导了该算法在非凸和强凸函数上迭代复杂度的高概率尾部界。我们展示了数值结果，证明在合成问题以及量子化学的实际问题上，用我们的拟牛顿更新方案增强 SASS 所带来的经验性收益。
引用
@article{arxiv.2302.09128,
title = {A Stochastic Quasi-Newton Method in the Absence of Common Random Numbers},
author = {Matt Menickelly and Stefan M. Wild and Miaolan Xie},
journal= {arXiv preprint arXiv:2302.09128},
year = {2024}
}