广义随机Halpern方案的渐近规律性
最优化与控制
2025-12-19 v3 机器学习
概率论
摘要
我们给出对广义随机Halpern式迭代的抽象、通用且高度一致的渐近规律性收敛率。该迭代在两种方面具有广泛性:首先,它完全抽象地包含了随机性,而不局限于特定的抽样方法;其次,它包含了优化文献中各种方案的随机版本,包括Halpern迭代以及带有TIKHONOV正则化项的Krasnoselskii-Mann迭代(本文首次考虑了该随机变体)。对于这些具体情况,我们获得了线性渐近规律性收敛率,匹配(或改进)当前已知在随机优化中这些迭代的最佳收敛率;在内积空间中,对于一般迭代可获得二次收敛率。我们通过讨论如何通过类似minibatch的抽样方法在实践中管理方差、如何将收敛率转换为oracle复杂度界限,以及通过描绘在强化学习中如何实例化这些方案以获得Q学习的新方法来作结。
引用
@article{arxiv.2411.04845,
title = {Asymptotic regularity of a generalised stochastic Halpern scheme},
author = {Nicholas Pischke and Thomas Powell},
journal= {arXiv preprint arXiv:2411.04845},
year = {2025}
}
备注
33 pages