基于多数投票的联邦学习
机器学习
2022-12-13 v3 人工智能
分布式、并行与集群计算
信号处理
摘要
联邦学习允许协作方在保护数据隐私的同时解决机器学习问题。近期研究解决了联邦学习中的各种挑战,但通信开销、学习可靠性和部署效率的联合优化仍是一个开放问题。为此,我们提出一种名为基于多数投票的联邦学习(FedVote)的新方案。在 FedVote 的每一通信轮中,工作节点以低通信开销向服务器传输二值或三值权重。模型参数通过加权投票聚合,以增强对拜占庭攻击的鲁棒性。当部署用于推理时,具有二值或三值权重的模型对边缘设备资源友好。我们表明,与直接量化模型更新的方法相比,所提方法可减小量化误差并更快收敛。
引用
@article{arxiv.2110.02998,
title = {Federated Learning via Plurality Vote},
author = {Kai Yue and Richeng Jin and Chau-Wai Wong and Huaiyu Dai},
journal= {arXiv preprint arXiv:2110.02998},
year = {2022}
}