CorBin-FL：一种基于公共随机性的差分隐私联邦学习机制
机器学习
2024-09-23 v1 密码学与安全
信息论
math.IT
摘要
联邦学习（FL）已成为一种极具前景的分布式机器学习框架。它利用分布式数据和计算资源，实现多个客户端间的协作学习。然而，FL 在平衡隐私保证、通信效率和整体模型准确率方面面临挑战。在本工作中，我们提出了 CorBin-FL，这是一种使用相关二元随机量化来实现差分隐私同时保持整体模型准确率的隐私机制。该方法利用安全多方计算技术，使客户端能够对其本地模型更新执行相关量化，而不泄露个体隐私。我们提供了理论分析，表明 CorBin-FL 实现了参数级本地差分隐私（PLDP），并且渐近优化了均方误差效用度量与 PLDP 隐私度量之间的隐私-效用权衡。我们进一步提出了 AugCorBin-FL，这是该机制的一种扩展，除 PLDP 外，还实现了用户级和样本级中心差分隐私保证。对于这两种机制，我们均推导了隐私参数和均方误差性能度量的界限。在 MNIST 和 CIFAR10 数据集上的大量实验表明，在相等的 PLDP 隐私预算下，我们的机制在模型准确率方面优于现有的差分隐私 FL 机制，包括高斯机制和拉普拉斯机制。
引用
@article{arxiv.2409.13133,
title = {CorBin-FL: A Differentially Private Federated Learning Mechanism using Common Randomness},
author = {Hojat Allah Salehi and Md Jueal Mia and S. Sandeep Pradhan and M. Hadi Amini and Farhad Shirani},
journal= {arXiv preprint arXiv:2409.13133},
year = {2024}
}