单调函数的自适应逼近

我们研究了一个经典问题：在已知紧实区间 $\mathcal{X}$、$\mathcal{Y}$ 以及 $\cX$ 上已知概率测度 $\mu$ 的情况下，通过顺序查询函数值，在 $L^p(\mu)$ 范数下逼近一个非减函数 $f: \mathcal{X} \to \mathcal{Y}$。对于任意函数 $f$，我们刻画了算法在停止后为保证逼近值 $\hat{f}$ 的 $L^p(\mu)$ 误差低于 $\epsilon$ 所需的最少求值次数。与一致适用于所有 $f$ 的最坏情况结果不同，我们的复杂度度量依赖于每个具体的函数 $f$。为了解决这个问题，我们引入了 GreedyBox，它是 Novak (1992) 最初提出用于数值积分的算法的推广。我们证明，对于任意函数 $f$，GreedyBox 在对数因子范围内达到了最优的样本复杂度。此外，我们揭示了关于分段光滑函数的结果。也许正如预期的那样，对于分段 $C^2$ 函数，GreedyBox 的 $L^p(\mu)$ 误差的下降速度远快于算法的预测（在没有任何关于 $f$ 光滑性知识的情况下）。一个简单的修改甚至能为这类函数达到最优的极小极大逼近速率，我们显式地计算了该速率。特别地，我们的发现突显了自适应与非自适应算法、光滑与分段光滑函数，以及单调与非单调函数之间的多重性能差距。最后，我们提供了数值实验来支持我们的理论结果。