基于自适应量化与差分隐私的非 IID 联邦学习隐私增强与通信效率提升
计算机视觉与模式识别
2026-04-28 v1 机器学习
摘要
联邦学习是一种分布式机器学习方法，在中心服务器的管理下，多个设备协同训练模型而不共享底层数据。联邦学习的一个关键挑战是由于设备之间连接速度和带宽的差异导致的通信瓶颈。因此，在训练期间减少传输数据的大小至关重要。此外，通过模型或梯度分析在训练期间存在暴露敏感信息的潜在风险。为解决隐私和通信效率问题，我们结合了差分隐私（DP）和自适应量化方法。我们采用基于拉普拉斯的 DP 方法实现隐私保护，这在联邦学习领域相对探索不足，能够提供比基于高斯的 DP 更紧密的隐私保证。我们提出了一个简单高效的全局比特长度调度器，采用基于轮次的余弦退火，以及一个基于数据熵分析估计客户端贡献的客户端调度器。我们在 CIFAR10、MNIST 和医学影像数据集上进行了广泛实验，测试了非 IID 数据分布下的各种客户端数量、比特长度调度器和隐私预算。结果显示，我们的自适应量化方法在 MNIST 上将通信数据减少最高可达 52.64%，CIFAR10 为 45.06%，医学影像数据集为 31%至 37%，相较于 32 位浮点训练，同时保持竞争的模型准确率，并通过差分隐私确保隐私的稳健性。
引用
@article{arxiv.2604.23426,
title = {Enhanced Privacy and Communication Efficiency in Non-IID Federated Learning with Adaptive Quantization and Differential Privacy},
author = {Emre Ardıç and Yakup Genç},
journal= {arXiv preprint arXiv:2604.23426},
year = {2026}
}
备注
Published in IEEE Access, Vol. 13, 2025. DOI: 10.1109/ACCESS.2025.3554138 Github: https://github.com/eardic/FL_DPQS