中文

桥接本地归一化与联邦数据归一化:一种面向联邦学习的隐私保护方法

密码学与安全 2025-11-17 v1

摘要

数据归一化是提高模型性能和训练稳定性的关键预处理步骤。在联邦学习 (FL) 中,由于数据分布在多个方之间且往往呈异构,归一化提出了独特挑战。传统方法依赖要么独立的客户端处理,即本地归一化,要么在分发给各方前对整个数据集进行归一化,即池化归一化。本地归一化在数据在各方之间分布不均时可能存在问题,而池化归一化方法则与联邦学习的去中心化本质相冲突。本文探索了将广泛使用的归一化技术适应联邦学习的可能性,并定义了术语联邦归一化。联邦归一化通过使各方在协作交换归一化参数来模拟池化归一化,从而在不牺牲数据局部性的前提下实现与池化归一化相当的性能。然而,共享诸如均值之类的归一化参数会引入潜在的隐私风险,我们通过稳健的隐私保护解决方案进一步缓解了这一风险。我们的贡献包括:(i) 我们系统评估了各种联邦和本地归一化技术在异构联邦学习情景中的影响;(ii) 我们提出了一种专为联邦设置设计的对 kk 小的元素(及中位数)的同态加密计算方法,实现安全且高效的联邦归一化;(iii) 我们提出了面向联邦学习的广泛使用的归一化技术的隐私保护实现,利用多方完全同态加密 (MHE)。

关键词

引用

@article{arxiv.2511.11249,
  title  = {Bridging Local and Federated Data Normalization in Federated Learning: A Privacy-Preserving Approach},
  author = {Melih Coşğun and Mert Gençtürk and Sinem Sav},
  journal= {arXiv preprint arXiv:2511.11249},
  year   = {2025}
}