中文

FedCP:通过条件策略分离特征信息以实现个性化联邦学习

机器学习 2023-10-31 v2 人工智能

摘要

近来,个性化联邦学习(pFL)在隐私保护、协作学习以及应对客户端间统计异质性(如医院、智能手机等)方面受到越来越多的关注。现有多数 pFL 方法侧重于在客户端级模型参数中利用全局信息与个性化信息,却忽视了数据正是这两类信息的来源。为此,我们提出联邦条件策略(FedCP)方法,其为每个样本生成条件策略,以分离其特征中的全局信息与个性化信息,并分别通过全局头与个性化头进行处理。与现有 pFL 方法相比,FedCP 以样本特定的方式考量个性化,更为细粒度。在计算机视觉与自然语言处理领域的广泛实验表明,FedCP 以最高 6.69% 的优势优于十一种最先进方法。此外,当部分客户端意外掉线(在移动场景中频繁发生)时,FedCP 仍保持其优越性。我们的代码已公开于 https://github.com/TsingZ0/FedCP。

关键词

引用

@article{arxiv.2307.01217,
  title  = {FedCP: Separating Feature Information for Personalized Federated Learning via Conditional Policy},
  author = {Jianqing Zhang and Yang Hua and Hao Wang and Tao Song and Zhengui Xue and Ruhui Ma and Haibing Guan},
  journal= {arXiv preprint arXiv:2307.01217},
  year   = {2023}
}

备注

Accepted by KDD 2023