重尾噪声与长程依赖噪声在随机逼近中的影响：有限时程分析
机器学习
2026-03-23 v1 系统与控制
系统与控制
最优化与控制
机器学习
摘要
随机逼近（SA）是一种具有广泛应用领域的迭代框架，广泛应用于强化学习和优化。经典分析通常依赖于鲁棒差分或Markov噪声且满足有界第二矩条件，但许多实际场景（如金融和通信）常遇到重尾和长程依赖（LRD）噪声。本文研究在这些非经典噪声模型下寻找强单调算子根的随机逼近。我们建立了两种情况下的最初时程矩界限，提供显式收敛速率，量化重尾和时间相关性的影响。我们的分析采用噪声平均化技术，在不修改迭代的前提下正规化噪声影响。最后，我们将通用框架应用于随机梯度下降（SGD）和梯度博弈，并通过数值实验验证有限时程分析。
引用
@article{arxiv.2603.19648,
title = {Heavy-Tailed and Long-Range Dependent Noise in Stochastic Approximation: A Finite-Time Analysis},
author = {Siddharth Chandak and Anuj Yadav and Ayfer Ozgur and Nicholas Bambos},
journal= {arXiv preprint arXiv:2603.19648},
year = {2026}
}
备注
Submitted to IEEE Transactions on Automatic Control