针对噪声、凸、零阶优化问题的简单且改进算法

本文我们研究的是对函数 $f$ 在有界凸集 $\bar{\mathcal X}\subset \mathbb{R}^d$ 上的噪声、凸、零阶优化问题。给定预算为 $n$ 的噪声查询，这些查询可以依序且自适应地分配给函数 $f$，我们的目标是构建一个算法，该算法返回一个点 $\hat x\in \bar{\mathcal X}$，使得 $f(\hat x)$ 尽可能小。我们提供了一个概念上简单的方法，灵感来自教科书中的心重心方法，但适用于噪声和零阶环境。我们证明该方法使得 $f(\hat x) - \min_{x\in \bar{\mathcal X} } f(x)$ 的误差在多对数项修正下小于 $d^2/\sqrt{n}$。我们略微改进了现有文献，其中据我们所知最好的已知收敛率来自 [Lattimore, 2024]，其收敛率为 $d^{2.5}/\sqrt{n}$，尽管针对的是更具挑战性的问题。我们的主要贡献在于概念性的，因为我们相信该算法及其分析带来了新思想且显著简单于现有方法。