联邦学习的个性化解耦:一种可解释视角
机器学习
2023-07-14 v2
摘要
个性化联邦学习(PFL)通过在跨客户端的知识共享与每客户端的模型个性化之间进行平衡,联合训练多种局部模型。本文通过显式地将潜表示解耦为两部分以分别捕捉共享知识与客户端特定的个性化,从而解决 PFL 问题,这带来了更可靠且更有效的 PFL。该解耦由一种新颖的联邦对偶变分自编码器(FedDVA)实现,其采用两个编码器来推断这两类表示。FedDVA 能更好地理解 PFL 中全局知识共享与局部个性化之间的权衡。此外,它可与现有 FL 方法集成,并将其转化为面向异构下游任务的个性化模型。大量实验验证了解耦带来的优势,并表明使用解耦表示训练的模型显著优于那些原始方法。
引用
@article{arxiv.2306.03570,
title = {Personalization Disentanglement for Federated Learning: An explainable perspective},
author = {Peng Yan and Guodong Long},
journal= {arXiv preprint arXiv:2306.03570},
year = {2023}
}