基于多样化精度的隐私保护量化联邦学习
机器学习
2025-07-04 v2 信号处理
摘要
联邦学习（FL）已成为分布式机器学习的有前景范式，使多个本地设备能够在不共享原始数据的情况下协同训练全局模型。尽管取得了这些进展，但联邦学习仍受限于诸多因素：（i）由于本地模型更新未受保护地传输至融合中心（FC），存在隐私风险；（ii）由于参与各联邦学习轮次的设备在模型量化分辨率上的异构性，导致学习效用下降。以往工作通常仅解决上述挑战中的一个问题，因为在隐私风险和量化异构性之间维持学习效用是一个非平凡的任务。因此，本文旨在改进一种在允许不同量化分辨率设备集群参与每个联邦学习轮次的隐私保护联邦学习方案。具体而言，我们引入了一种新型随机量化器（SQ），旨在同时实现差分隐私（DP）和最小量化误差。值得注意的是，所提出的 SQ 保证了有界失真，而其他 DP 方法则不然。为了解决量化异构性问题，我们引入了聚类大小优化技术结合线性融合方法，以提高模型聚合的准确性。数值仿真结果表明，我们的方法在隐私保护和学习效用方面优于常规的 LaplaceSQ-FL 算法。
引用
@article{arxiv.2507.00920,
title = {Privacy-Preserving Quantized Federated Learning with Diverse Precision},
author = {Dang Qua Nguyen and Morteza Hashemi and Erik Perrins and Sergiy A. Vorobyov and David J. Love and Taejoon Kim},
journal= {arXiv preprint arXiv:2507.00920},
year = {2025}
}