零阶优化中的多查询悖论
机器学习
2026-02-03 v4
摘要
零阶（ZO）优化为显式梯度不可用且必须仅通过查询函数值来近似的情形提供了强大的框架。主流的单查询方法简单高效，但受限于高估计方差，激发了多查询范式以提高估计精度的动机。然而，这会产生一个关键权衡：在固定查询预算下，查询数与总优化迭代次数成反比。如何最佳分配这一预算是一个根本且鲜有探索的问题。本工作系统性地解决了这一查询分配问题。我们分析了两种聚合方法：一种是事实上简单平均的ZO-Avg 方法，以及我们从局部代理函数最小化派生的一种新的投影对齐方法（ZO-Align）。通过推导两种方法的收敛率，使其对查询数的依赖性在强凸、凸、非凸及随机情形中显式化，我们发现一个明显的二分法：对于ZO-Avg，我们证明使用超过一个查询 per iteration 永远是查询不高效的，因而单查询方法最优。相反，ZO-Align 通常在多个查询 per iteration 下表现更好，最终实现完全子空间估计作为最佳方法。因此，本工作阐明了多查询问题归结为一种关于中间查询规模的选择，而非关于是否使用多个查询的选择，这完全取决于所采用的聚合方法。这一理论发现也得到了大量实验的一致验证。
引用
@article{arxiv.2509.15552,
title = {The Multi-Query Paradox in Zeroth-Order Optimization},
author = {Wei Lin and Qingyu Song and Hong Xu},
journal= {arXiv preprint arXiv:2509.15552},
year = {2026}
}