域偏移下的一种增强联邦原型学习方法
机器学习
2024-09-30 v1 人工智能
摘要
联邦学习 (Federated Learning, FL) 允许在不共享私有数据的情况下进行协作式机器学习训练。大量研究表明,影响联邦学习模型性能的一个重要因素是不同客户端间数据的异构性,尤其是当数据采样自不同领域时。近期的一篇论文引入了方差感知的双层原型聚类,并采用了一种新颖的 -稀疏原型损失,增加了类内相似度并降低了类间相似度。为确保特征在特定簇内收敛,我们引入了一种改进算法——具有收敛簇的联邦原型学习 (Federated Prototype Learning with Convergent Clusters, FedPLCC)。为增大类间距离,我们根据每个原型所代表的簇的大小对其进行加权。为减小类内距离,考虑到距离较大的原型可能来自不同领域,我们仅选择一定比例的原型用于损失函数计算。在 Digit-5、Office-10 和 DomainNet 数据集上的评估表明,我们的方法优于现有方法。
引用
@article{arxiv.2409.18578,
title = {An Enhanced Federated Prototype Learning Method under Domain Shift},
author = {Liang Kuang and Kuangpu Guo and Jian Liang and Jianguo Zhang},
journal= {arXiv preprint arXiv:2409.18578},
year = {2024}
}
备注
8 pages, 6 figures