具有大无界随机信息延迟的分布式随机逼近的稳定性和收敛性
最优化与控制
2023-05-15 v1 分布式、并行与集群计算
机器学习
多智能体系统
动力系统
摘要
我们将Borkar-Meyn稳定性定理（BMT）推广到具有任意矩界信息延迟的分布式随机逼近（SAs）。为对延迟建模，我们引入信息年龄过程（AoIPs）：在非负整数上具有单位增长性质的随机过程。我们证明具有任意矩界的AoIPs不能无限频繁地超过任意比例的时间。结合适当选择的步长，该性质被证明足以保证分布式SAs的稳定性。与BMT相比，我们的分析需要关键的修改和新的论证思路来处理由AoI引起的SA误差。在我们的分析中，我们证明这些SA误差满足递归不等式。为估计该递归，我们提出了一种用于求和的时变下极限的新的Gronwall型不等式。作为分布式BMT的应用，我们讨论了分布式基于梯度的优化以及分析带动量的SAs的一种新方法。
引用
@article{arxiv.2305.07091,
title = {Stability and Convergence of Distributed Stochastic Approximations with large Unbounded Stochastic Information Delays},
author = {Adrian Redder and Arunselvan Ramaswamy and Holger Karl},
journal= {arXiv preprint arXiv:2305.07091},
year = {2023}
}