中文

对抗环境下的在线学习:一种微分包含分析

机器学习 2023-09-27 v2 系统与控制 系统与控制 最优化与控制

摘要

我们引入了一个基于观测矩阵的框架,用于存在对抗者的完全异步在线联邦学习(FL)。在这项工作中,我们展示了其在估计随机向量均值方面的有效性。我们的主要结果是所提出的算法几乎必然收敛到期望的均值 μ\mu。这使得我们的方法成为首个在存在对抗者情况下具有 a.s. 收敛保证的异步 FL 方法。我们使用一种新颖的基于微分包含的双时间尺度分析推导了该收敛性。我们证明的另外两个亮点包括:(a)使用一种新颖的 Lyapunov 函数表明 μ\mu 是算法极限动力学的唯一全局吸引子;(b)使用鞅和停时理论表明算法迭代几乎必然有界。

关键词

引用

@article{arxiv.2304.01525,
  title  = {Online Learning with Adversaries: A Differential-Inclusion Analysis},
  author = {Swetha Ganesh and Alexandre Reiffers-Masson and Gugan Thoppe},
  journal= {arXiv preprint arXiv:2304.01525},
  year   = {2023}
}

备注

6 pages, 2 figures