应对差分隐私联邦学习中的隐私异构性
机器学习
2026-02-27 v1 分布式、并行与集群计算
摘要
差分隐私联邦学习（DP-FL）使客户端能够在保留其本地数据隐私的同时协同训练机器学习模型。然而，大多数现有的DP-FL方法假设所有客户端共享统一的隐私预算，这一假设在实际场景中不成立，因为隐私要求在各个客户端之间差异很大。这种隐私异构性是一个重大挑战：传统的客户端选择策略通常依赖数据量，无法区分提供高质量更新的客户端与由于严格隐私限制而引入大量噪声的客户端。为了解决这一差距，我们提出了对DP-FL中隐私感知客户端选择的系统性研究。我们通过推导量化隐私异构性对训练误差影响的收敛分析，建立了理论基础。基于这一分析，我们提出了一种隐私感知客户端选择策略，作为一个凸优化问题，自适应地调整选择概率以最小化训练误差。广泛的实验在基准数据集上表明，我们的方法在隐私预算异构的情况下相对于现有基线实现了最高可达10%的测试准确率提升。这些结果凸显了在实际有效的联邦学习中将隐私异构性纳入客户端选择的重要性。
引用
@article{arxiv.2602.22633,
title = {Tackling Privacy Heterogeneity in Differentially Private Federated Learning},
author = {Ruichen Xu and Ying-Jun Angela Zhang and Jianwei Huang},
journal= {arXiv preprint arXiv:2602.22633},
year = {2026}
}