面向随机代理可用性的分布式在线优化
机器学习
2024-11-26 v1
摘要
受联邦学习场景中客户端可能并非随时可用的启发,我们研究了一种代理在每个时间步骤以已知概率p激活的分布式在线优化变体,其中只有当相邻代理同时激活时,才能进行通信。我们引入了分布式FTRL算法的变体,并分析其网络 regret,通过活跃代理的即时 regret 的平均值来定义。我们的分析表明,对于任意由N个代理组成的连通通信图G, our FTRL 变体在T步后的预期网络 regret 最多为 的阶,其中为图G的拉普拉斯数的条件数。我们进一步展示了类似的 regret 界限也以高概率成立。此外,我们表明我们的 regret 概念(对代理的平均情况)与标准的 regret 概念(对代理的最坏情况)在本质上是等价的,这表明当p=1时,这些界限无法显著改进。我们的理论结果通过合成数据集上的实验得到支持。
引用
@article{arxiv.2411.16477,
title = {Distributed Online Optimization with Stochastic Agent Availability},
author = {Juliette Achddou and Nicolò Cesa-Bianchi and Hao Qiu},
journal= {arXiv preprint arXiv:2411.16477},
year = {2024}
}