MetaFed：基于循环知识蒸馏的联邦间个性化医疗联邦学习
机器学习
2023-07-11 v3 计算机与社会
摘要
联邦学习因能在不访问原始用户数据的情况下构建模型而受到越来越多的关注，尤其在医疗领域。在实际应用中，由于数据异构性、中央服务器的不信任或不存在等原因，不同联邦之间很少能协同工作。本文提出一种称为MetaFed的新框架，以促进不同联邦间可信的联邦学习（FL）。MetaFed通过所提出的循环知识蒸馏，在无中央服务器的情况下为每个联邦获得个性化模型。具体而言，MetaFed将每个联邦视为一个元分布，并以循环方式聚合各联邦的知识。训练分为两部分：公共知识积累与个性化。在三个基准上的综合实验表明，无服务器的MetaFed相较于最先进方法取得了更好的精度（例如，在PAMAP2上比基线精度提升10%以上），且通信成本更低。
引用
@article{arxiv.2206.08516,
title = {MetaFed: Federated Learning among Federations with Cyclic Knowledge Distillation for Personalized Healthcare},
author = {Yiqiang Chen and Wang Lu and Xin Qin and Jindong Wang and Xing Xie},
journal= {arXiv preprint arXiv:2206.08516},
year = {2023}
}
备注
Accepted by IEEE Trans. on Neural Networks and Learning Systems (TNNLS); IJCAI'22 FTL workshop innovation award; code at https://github.com/microsoft/PersonalizedFL