FedCoSR:针对非独立同分布数据中标签异质性的对比可共享表征个性化联邦学习
机器学习
2025-09-18 v3 人工智能
摘要
由标签分布倾斜和数据稀缺引起的异质性,可能导致严重依赖分布式计算的智能通信应用出现不准确和不公平问题。为解决此问题,本文提出一种新颖的个性化联邦学习算法,名为联邦对比可共享表征 (FedCoSR),旨在促进客户端之间的知识共享,同时维护数据隐私。具体而言,本地模型浅层网络的参数和典型的本地表征均被视为服务器的可共享信息,并进行全局聚合。为解决客户端间标签分布倾斜导致的性能下降,在本地和全局表征之间采用对比学习以丰富本地知识。此外,为确保数据稀缺客户端的公平性,FedCoSR 引入了自适应本地聚合,以协调全局模型在每个客户端中的参与程度。我们的仿真结果表明,在具有不同程度标签异质性的数据集上,FedCoSR 在准确性和公平性方面均优于现有方法,证明了其在缓解标签异质性方面的有效性。
引用
@article{arxiv.2404.17916,
title = {FedCoSR: Personalized Federated Learning with Contrastive Shareable Representations for Label Heterogeneity in Non-IID Data},
author = {Chenghao Huang and Xiaolu Chen and Yanru Zhang and Hao Wang},
journal= {arXiv preprint arXiv:2404.17916},
year = {2025}
}
备注
20 pages