FedVal：联邦学习中差异向好或差异向坏
机器学习
2023-06-08 v1 人工智能
密码学与安全
摘要
联邦学习(FL)系统易受恶意行为者的攻击，其可能通过多种投毒攻击破坏训练模型。FL 在解决群体偏差方面也带来新挑战，例如确保不同人口群体间的公平性能。传统解决此类偏差的方法需要集中访问数据，而 FL 系统不具备该条件。本文提出一种新颖方法 FedVal，兼顾鲁棒性与公平性，且不需要来自客户端的任何可能引发隐私担忧并损害 FL 系统完整性的额外信息。为此，我们提出一种基于服务端验证方法的创新评分函数，评估客户端更新并确定本地训练模型间的最优聚合平衡。研究表明该方法不仅有力抵御投毒攻击，还可用于降低群体偏差并促进公平，同时保持系统的差分隐私能力。在 CIFAR-10、FEMNIST 和 PUMS ACSIncome 数据集上不同配置的大量实验证明了方法的有效性，取得了 SOTA 性能。我们证明了在 80% 参与客户端为恶意时仍具鲁棒性。此外，代表性不足标签的准确率从 32% 提升至 53%，代表性不足特征的召回率从 19% 提升至 50%。
引用
@article{arxiv.2306.04040,
title = {FedVal: Different good or different bad in federated learning},
author = {Viktor Valadi and Xinchi Qiu and Pedro Porto Buarque de Gusmão and Nicholas D. Lane and Mina Alibeigi},
journal= {arXiv preprint arXiv:2306.04040},
year = {2023}
}
备注
To appear in the proceedings of the USENIX Security Symposium 2023