中文

广义随机Halpern方案的渐近规律性

最优化与控制 2025-12-19 v3 机器学习 概率论

摘要

我们给出对广义随机Halpern式迭代的抽象、通用且高度一致的渐近规律性收敛率。该迭代在两种方面具有广泛性:首先,它完全抽象地包含了随机性,而不局限于特定的抽样方法;其次,它包含了优化文献中各种方案的随机版本,包括Halpern迭代以及带有TIKHONOV正则化项的Krasnoselskii-Mann迭代(本文首次考虑了该随机变体)。对于这些具体情况,我们获得了线性渐近规律性收敛率,匹配(或改进)当前已知在随机优化中这些迭代的最佳收敛率;在内积空间中,对于一般迭代可获得二次收敛率。我们通过讨论如何通过类似minibatch的抽样方法在实践中管理方差、如何将收敛率转换为oracle复杂度界限,以及通过描绘在强化学习中如何实例化这些方案以获得Q学习的新方法来作结。

关键词

引用

@article{arxiv.2411.04845,
  title  = {Asymptotic regularity of a generalised stochastic Halpern scheme},
  author = {Nicholas Pischke and Thomas Powell},
  journal= {arXiv preprint arXiv:2411.04845},
  year   = {2025}
}

备注

33 pages