重型马尔可夫噪声下一般随机逼近的集中现象

我们建立了随机逼近算法生成的迭代序列的最大集中不等式，考虑一般步长序列，其中噪声包含有限状态马尔可夫成分和鞅差成分。当鞅差噪声受限时，我们指出误差尾部可为亚高斯、亚 Weierstrass 或介于任意 Pareto 之重于任意 Weibull 之间者，取决于步长序列以及随机算子几乎必然收缩、几乎必然非扩张，或以正概率扩张。我们的分析依赖于包含泊松方程解矩生成函数的新型 Lyapunov 函数，以及辅助投影算法。我们补充上界与最坏情况例子，表明质上更精细的界不可能实现。我们进一步研究鞅差噪声无界且平均算子收缩、步长为 $1/k$ 的情况。在此 setting 下，若随机算子几乎必然非扩张，则误差尾部最多比噪声尾部重 3 倍；若随机算子以正概率扩张，则误差可能具有显著更重的尾部。这些结果通过一种新型黑盒截断论证实现，将无界噪声情况降低到受限噪声情形。