联邦学习中的协作均衡
机器学习
2022-06-03 v3
摘要
联邦学习（FL）指的是在涉及多个客户端且不牺牲隐私的协作研究网络上学习模型的范式。近来，人们日益关注不同客户端之间的分布差异，这种差异甚至可能在与其他客户端协作时导致适得其反的后果。虽然与所有客户端协作未必能取得最佳性能，本文研究了一种称为“协作均衡”（CE）的理性协作，其中形成了较小的协作联盟。每个客户端与能最大程度改进模型学习的某些成员协作，并隔离贡献甚微的其他成员。我们提出了收益图的概念，描述每个客户端如何从与其他客户端协作中获益，并提出了一种帕累托优化方法来识别最优协作者。随后我们从理论上证明，通过迭代图操作可从收益图达到协作均衡。我们的框架为在研究网络中建立协作提供了新途径。在合成与真实世界数据集上的实验证明了方法的有效性。
引用
@article{arxiv.2108.07926,
title = {Collaboration Equilibrium in Federated Learning},
author = {Sen Cui and Jian Liang and Weishen Pan and Kun Chen and Changshui Zhang and Fei Wang},
journal= {arXiv preprint arXiv:2108.07926},
year = {2022}
}
备注
This paper is accepted by SIGKDD2022