一种可利用先验信息实现更快收敛的Robbins-Monro序列

我们提出了一种新方法，通过将目标点的先验信息引入Robbins-Monro迭代，来提高Robbins-Monro算法的收敛速度。我们在无需（可能错误的）回归模型（该模型还会带来额外约束）的情况下实现了先验信息的融入。我们证明，对于广泛的先验分布（即使是错误的分布），例如高斯分布、加权高斯和（如核密度估计中的情况）以及大于零的有界任意分布函数，这种先验信息Robbins-Monro序列都是收敛的。我们还对序列进行了数值分析，以了解其性能及参数的影响。结果表明，先验信息Robbins-Monro序列比标准序列收敛更快，尤其是在初始步骤中，这对于函数测量次数有限且观测底层函数的噪声较大的应用场景尤为重要。最后，我们提出了一个选择序列参数的规则。