CSAFL：一种聚类半异步联邦学习框架
机器学习
2024-04-16 v1 分布式、并行与集群计算
摘要
联邦学习（FL）是一种新兴的分布式机器学习范式，可保护隐私并解决数据孤岛问题。目前 FL 主要有两种通信策略：同步 FL 与异步 FL。同步 FL 的优势在于模型精度高、收敛速度快。然而该同步通信策略存在中心服务器等待设备过久的风险，即掉队者效应，对部分时间敏感应用有负面影响。异步 FL 在缓解掉队者效应上具有天然优势，但存在模型质量下降与服务器崩溃的威胁。因此，我们结合两种策略优势提出一种聚类半异步联邦学习（CSAFL）框架。我们在非独立同分布（non-IID）设置下基于四个不平衡联邦数据集评估 CSAFL，并与基线方法比较。实验结果表明，相较于 TA-FedAvg，CSAFL 在四个数据集上测试准确率显著提升超 +5%。尤其在非 IID FEMNIST 上，CSAFL 相较 TA-FedAvg 绝对测试准确率提升 +34.4%。
引用
@article{arxiv.2104.08184,
title = {CSAFL: A Clustered Semi-Asynchronous Federated Learning Framework},
author = {Yu Zhang and Moming Duan and Duo Liu and Li Li and Ao Ren and Xianzhang Chen and Yujuan Tan and Chengliang Wang},
journal= {arXiv preprint arXiv:2104.08184},
year = {2024}
}
备注
This paper will be presented at IJCNN 2021