通过不确定性基于非对称 reciprocity 学习桥接联邦学习中的模型异构性
分布式、并行与集群计算
2024-07-04 v1
摘要
本文提出了 FedType—a 简单却开创性的框架，用于在联邦学习（FL）中解决异构模型聚合的研究空白。FedType 引入小型相同代理模型作为客户端的信息交换代理，同时确保模型安全和高效通信。为在大型私有模型和小型代理模型之间传递知识，我们提出了一种新颖的基于不确定性的非对称 reciprocity 学习方法，无需任何公共数据。在基准数据集上进行的全面实验表明，FedType 在 diverse 设置下具有有效性和广泛性。我们的ethods 重新定义了联邦学习范式，通过桥接模型异构性、消除对公共数据的依赖、优先客户隐私并降低通信成本。
引用
@article{arxiv.2407.03247,
title = {Bridging Model Heterogeneity in Federated Learning via Uncertainty-based Asymmetrical Reciprocity Learning},
author = {Jiaqi Wang and Chenxu Zhao and Lingjuan Lyu and Quanzeng You and Mengdi Huai and Fenglong Ma},
journal= {arXiv preprint arXiv:2407.03247},
year = {2024}
}
备注
This paper has been accepted by ICML 2024