FedREP:一种拜占庭鲁棒、通信高效且隐私保护的联邦学习框架
机器学习
2023-03-10 v1 密码学与安全
分布式、并行与集群计算
摘要
联邦学习(FL)近来成为研究热点,其中拜占庭鲁棒性、通信效率与隐私保护是三个重要方面。然而,这三方面之间的张力使得难以同时兼顾。鉴于此挑战,我们从理论上分析了通信压缩方法欲与现有拜占庭鲁棒方法及隐私保护方法兼容所应满足的条件。受分析结果启发,我们提出一种称为共识稀疏化(ConSpar)的新型通信压缩方法。据我们所知,ConSpar 是首个被设计得同时兼容拜占庭鲁棒方法与隐私保护方法的通信压缩方法。基于 ConSpar,我们进一步提出一种称为 FedREP 的新型 FL 框架,其具备拜占庭鲁棒、通信高效与隐私保护特性。我们从理论上证明了 FedREP 的拜占庭鲁棒性与收敛性。实验结果表明,FedREP 可显著优于通信高效的隐私保护基线。此外,与拜占庭鲁棒的通信高效基线相比,FedREP 能在获得隐私保护额外优势的同时达到相当精度。
引用
@article{arxiv.2303.05206,
title = {FedREP: A Byzantine-Robust, Communication-Efficient and Privacy-Preserving Framework for Federated Learning},
author = {Yi-Rui Yang and Kun Wang and Wu-Jun Li},
journal= {arXiv preprint arXiv:2303.05206},
year = {2023}
}