面向联邦学习的通信高效与隐私可调机制
机器学习
2025-12-23 v3
摘要
通过联邦学习对分布式私有数据进行机器学习模型训练面临两个关键挑战：通信效率和隐私保护。在本工作中，我们在 trusted aggregator 模型中提出了一种新方法，称为 Communication-Efficient and Privacy-Adaptable Mechanism (CEPAM)，同时实现了这两个目标。具体而言，CEPAM 利用拒绝抽样通用量化器 (RSUQ)，这是一种随机向量量化器，其 resulting distortion 等效于指定的噪声，如高斯噪声或拉普拉斯噪声，从而实现联合差分隐私和压缩。我们的 CEPAM 还提供了额外的可调隐私性，使客户端和服务器能够根据所需的准确度和保护程度自定义隐私保护。我们对 CEPAM 的隐私保证进行了理论分析，并通过实验评估了用户隐私与 CEPAM 准确度之间的 trade-offs。此外，我们使用 MNIST 数据集评估了 CEPAM 的实用性，结果表明 CEPAM 在学习准确度方面优于基线模型。
引用
@article{arxiv.2501.12046,
title = {Communication-Efficient and Privacy-Adaptable Mechanism for Federated Learning},
author = {Chih Wei Ling and Chun Hei Michael Shiu and Youqi Wu and Jiande Sun and Cheuk Ting Li and Linqi Song and Weitao Xu},
journal= {arXiv preprint arXiv:2501.12046},
year = {2025}
}
备注
16 pages, 3 figures