中文

FedCG:利用条件 GAN 在联邦学习中保护隐私并保持有竞争力的性能

机器学习 2024-07-09 v3

摘要

联邦学习(FL)旨在通过让客户端在不共享私有数据的情况下协作构建机器学习模型来保护数据隐私。近期工作表明,联邦学习期间交换的信息易受到基于梯度的隐私攻击,因此已采用多种隐私保护方法来阻止此类攻击。然而,这些防御方法要么带来数量级更高的计算与通信开销(例如使用同态加密),要么在预测精度方面造成显著的模型性能损失(例如使用差分隐私)。在本文中,我们提出 \textscFedCG\textsc{FedCG},一种新颖的联邦学习方法,其利用条件生成对抗网络实现高级别隐私保护,同时仍保持有竞争力的模型性能。\textscFedCG\textsc{FedCG} 将每个客户端的本地网络分解为私有提取器与公共分类器,并将提取器保留在本地以保护隐私。\textscFedCG\textsc{FedCG} 不暴露提取器,而是与服务器共享客户端的生成器以聚合客户端共享的知识,旨在提升每个客户端本地网络的性能。大量实验表明,\textscFedCG\textsc{FedCG} 相比联邦学习基线能取得有竞争力的模型性能,且隐私分析显示 \textscFedCG\textsc{FedCG} 具备高级别的隐私保护能力。代码见 https://github.com/yankang18/FedCG

关键词

引用

@article{arxiv.2111.08211,
  title  = {FedCG: Leverage Conditional GAN for Protecting Privacy and Maintaining Competitive Performance in Federated Learning},
  author = {Yuezhou Wu and Yan Kang and Jiahuan Luo and Yuanqin He and Qiang Yang},
  journal= {arXiv preprint arXiv:2111.08211},
  year   = {2024}
}