Zeroth-和First-order随机信任域算法的复杂度

模型更新(MU)和候选评估(CE)是许多随机信任域(TR)算法中包含的经典步骤。这些步骤中施加的抽样 effort往往以控制模型误差为目的，因此主要决定了随机TR算法的抽样复杂度。鉴于MU和CE可以应用方差缩减，我们研究在MU和CE中引入常用随机数(CRN)的效果。以ASTRO和ASTRO-DF作为原型的一阶和零阶算法族，我们展示CRN的效果导致根据样本路径的规则性和oracle阶数不同的复杂度。例如，我们发现对于光滑样本路径的一阶oracle环境，CRN的效果显著——带CRN的ASTRO实现的抽样复杂度为$\tilde{O}(\epsilon^{-2})$ a.s.，而在无CRN的通用情形下为$\tilde{O}(\epsilon^{-6})$ a.s.。相比之下，当样本路径不满足 Lipschitz 条件时，CRN的效果有限，抽样复杂度从$\tilde{O}(\epsilon^{-6})$ a.s.改进到$\tilde{O}(\epsilon^{-5})$ a.s.和$\tilde{O}(\epsilon^{-4})$ a.s.分别在零阶和一阶情形下。由于我们的结果表明复杂度的改进主要来自方差缩减的通用方面，例如零阶情形下的有限差分和一阶情形下的样本路径光滑性，我们预计在其他情境中也会出现类似趋势。