一种从服务器端预训练生成器向异构联邦学习客户端高效上传的知识迁移方案
人工智能
2024-08-20 v2 分布式、并行与集群计算
摘要
异构联邦学习（HtFL）能够在保护隐私的同时，在不同模型架构的客户端之间进行特定任务的知识共享。尽管近期研究取得了进展，但由于数据和模型的异构性，HtFL中的知识迁移仍然困难。为此，我们引入一个公共预训练生成器（例如StyleGAN或Stable Diffusion）作为桥梁，并提出一种新的高效上传知识迁移方案，称为联邦知识迁移循环（FedKTL）。它可以通过生成器在服务器上的推理产生与任务相关的原型图像-向量对。利用这些对，每个客户端可以通过一个额外的监督本地任务将通用知识从生成器迁移到其本地模型。我们在四个数据集上进行了广泛实验，涉及两种类型的数据异构性和14种异构模型，包括CNN和ViT。结果表明，我们的FedKTL在最多7.31%的性能上超越了七种最先进方法。此外，我们的知识迁移方案适用于仅有一个边缘客户端的云-边场景。代码：https://github.com/TsingZ0/FedKTL
引用
@article{arxiv.2403.15760,
title = {An Upload-Efficient Scheme for Transferring Knowledge From a Server-Side Pre-trained Generator to Clients in Heterogeneous Federated Learning},
author = {Jianqing Zhang and Yang Liu and Yang Hua and Jian Cao},
journal= {arXiv preprint arXiv:2403.15760},
year = {2024}
}
备注
Accepted by CVPR2024. We have incorporated additional analysis for the Stable Diffusion experiments in Appendix A