中文

异构网络中的异步去中心化随机优化

最优化与控制 2017-12-12 v2

摘要

我们考虑由在没有共同时间尺度下运行的不同代理子集组成的多智能体系统中的期望风险最小化问题。网络中的每个个体负责最小化全局目标函数,该函数是网络中每个代理统计平均损失函数之和的平均值。由于假设代理并非从相同分布中观察数据,所有代理寻求共同行动的假设被违背,因此制定一致性约束的基础假设也被违背。因此,我们考虑非线性网络邻近约束,以激励相邻节点做出彼此接近但不必完全一致的决策。此外,假设代理并非在共同的时间索引上接收顺序到达的观测值,因此寻求以异步方式学习。我们提出了一种 Arrow-Hurwicz 鞍点法的异步随机变体来解决此问题,该方法通过交替进行原始随机下降步长和拉格朗日乘子更新来运作,后者用于惩罚代理之间的差异。该工具导致了一种实现方案,允许每个代理仅利用本地信息与邻居进行消息传递而异步操作。我们的主要结果确立了所提出的方法在期望意义上收敛,其原始次优性和约束违反程度分别收敛至大小为 O(T)\mathcal{O}(\sqrt{T})O(T3/4)\mathcal{O}(T^{3/4}) 的半径。对通过自适应通信定价机制管理用户信道干扰的异步运行无线网络的实证评估表明,我们的理论结果能很好地转化为实践。

关键词

引用

@article{arxiv.1707.05816,
  title  = {Asynchronous Decentralized Stochastic Optimization in Heterogeneous Networks},
  author = {Amrit Singh Bedi and Alec Koppel and Ketan Rajawat},
  journal= {arXiv preprint arXiv:1707.05816},
  year   = {2017}
}