面向跨孤岛联邦学习的免搭便车与冲突感知协作形成
计算机科学与博弈论
2025-02-04 v3 机器学习
摘要
联邦学习是一种机器学习范式,允许多个联邦学习参与者在无需共享私有数据的情况下协作训练模型。由于数据异质性,联邦学习训练过程中可能发生负迁移。这需要基于参与者的数据互补性进行联邦学习参与者选择。在跨孤岛联邦学习中,从事业务活动的组织是联邦学习参与者的主要来源。由此产生的联邦学习生态系统具有两个特征:(i) 自利性,以及 (ii) 联邦学习参与者之间的竞争。这要求理想的联邦学习参与者选择策略能够同时缓解搭便车问题和竞争者之间的利益冲突。为此,我们提出了一种最优的联邦学习协作形成策略——FedEgoists,它确保:(1) 联邦学习参与者能够从联邦学习中获益,当且仅当其有益于联邦学习生态系统;(2) 联邦学习参与者不会为其竞争对手或其支持者做出贡献。它提供了一种高效的聚类解决方案,将联邦学习参与者分组为联盟,确保在每个联盟内,联邦学习参与者共享相同的利益。我们从理论上证明了所形成的联邦学习参与者联盟是最优的,因为没有联盟可以协作来提高其任何成员的效用。在广泛采用的基准数据集上进行的大量实验证明了 FedEgoists 相对于九种最先进基线方法的有效性,以及其在跨孤岛联邦学习中与从事业务活动的联邦学习参与者建立高效协作网络的能力。
引用
@article{arxiv.2410.19321,
title = {Free-Rider and Conflict Aware Collaboration Formation for Cross-Silo Federated Learning},
author = {Mengmeng Chen and Xiaohu Wu and Xiaoli Tang and Tiantian He and Yew-Soon Ong and Qiqi Liu and Qicheng Lao and Han Yu},
journal= {arXiv preprint arXiv:2410.19321},
year = {2025}
}