AFAFed——协议分析
机器学习
2022-07-01 v1 分布式、并行与集群计算
摘要
在本文中，我们设计、分析收敛性质并解决 AFAFed 的实现问题。AFAFed 是一种面向流媒体导向的物联网应用环境的新型异步公平自适应联邦学习框架，其特点为时变运行条件、异构资源受限设备（即协作者）、非独立同分布（non-i.i.d.）的本地训练数据以及不可靠的通信链路。AFAFed 的关键创新在于以下两方面的协同共同设计：(i) 在协作者和中心服务器分别设置两组自适应调整的容差阈值与公平系数；以及 (ii) 一种分布式自适应机制，允许每个协作者自适应地调整自身的通信速率。在（可能）非凸损失函数下，AFAFed 的收敛性质由一组新的解析界所保证，这些解析界正式揭示了若干联邦学习（FL）参数对所得 AFAFed 收敛速率的影响，例如每个协作者连续模型更新次数的均值与二阶矩、数据偏斜、通信丢包概率，以及用于模型聚合的（自适应调整的）混合系数的最大/最小值。
引用
@article{arxiv.2206.14927,
title = {AFAFed -- Protocol analysis},
author = {Enzo Baccarelli and Michele Scarpiniti and Alireza Momenzadeh and Sima Sarv Ahrabi},
journal= {arXiv preprint arXiv:2206.14927},
year = {2022}
}