具有公平平均的联邦学习
机器学习
2021-06-17 v5
摘要
公平性已成为联邦学习 (FL) 中的一个关键问题。本工作中，我们识别出 FL 中不公平的一个成因——幅度差异巨大的冲突梯度。为解决此问题，我们提出联邦公平平均 (FedFV) 算法，在平均各客户端梯度之前缓解其潜在冲突。我们首先使用余弦相似度检测梯度冲突，然后通过同时修改梯度的方向与幅度迭代消除此类冲突。我们进一步给出了 FedFV 缓解冲突梯度问题并收敛至 Pareto 平稳解的理论基础。在一系列联邦数据集上的大量实验证实，FedFV 在公平性、准确率和效率方面均优于最先进的方法。源代码见 https://github.com/WwZzz/easyFL。
引用
@article{arxiv.2104.14937,
title = {Federated Learning with Fair Averaging},
author = {Zheng Wang and Xiaoliang Fan and Jianzhong Qi and Chenglu Wen and Cheng Wang and Rongshan Yu},
journal= {arXiv preprint arXiv:2104.14937},
year = {2021}
}
备注
Accepted by IJCAI2021