中文

FedP3:模型异构性下的联邦个性化与隐私友好网络剪枝

机器学习 2024-04-16 v1 密码学与安全

摘要

由于联邦学习具有利用每个客户端本地持有的隐私安全信息训练全局模型的独特能力,近期研究中对其兴趣激增。本文特别关注客户端模型异构性问题,这是联邦学习实际实现中普遍存在的挑战,并增加了其复杂性。假设每个客户端拥有不同的内存存储、处理能力和网络带宽——即系统异构性现象——迫切需要为每个客户端定制独特的模型。为此,我们提出了一种有效且适应性强的联邦框架 FedP3,代表联邦个性化与隐私友好网络剪枝,专为模型异构性场景量身定制。我们提出的方法可以纳入并调整成熟的算法以适应其特定实例。我们提供了 FedP3 及其本地差分隐私变体 DP-FedP3 的理论解释,并从理论上验证了它们的效率。

关键词

引用

@article{arxiv.2404.09816,
  title  = {FedP3: Federated Personalized and Privacy-friendly Network Pruning under Model Heterogeneity},
  author = {Kai Yi and Nidham Gazagnadou and Peter Richtárik and Lingjuan Lyu},
  journal= {arXiv preprint arXiv:2404.09816},
  year   = {2024}
}