面向安全聚合联邦学习的分布式离散高斯机制
机器学习
2022-09-12 v4 数据结构与算法
机器学习
摘要
我们考虑在分布于用户设备上的私有数据上训练模型。为保障隐私，我们添加设备端噪声并使用安全聚合，使得仅有带噪和向服务器披露。我们提出一个全面的端到端系统，其在执行安全聚合前对数据进行适当离散化并添加离散高斯噪声。我们为离散高斯和提供了新颖的隐私分析，并仔细分析了数据量化与模和算术的影响。我们的理论保证凸显了通信、隐私与精度之间复杂的张力。我们广泛的实验结果表明，我们的方案以每个值低于 16 位的精度基本能够匹配中心差分隐私的精度。
引用
@article{arxiv.2102.06387,
title = {The Distributed Discrete Gaussian Mechanism for Federated Learning with Secure Aggregation},
author = {Peter Kairouz and Ziyu Liu and Thomas Steinke},
journal= {arXiv preprint arXiv:2102.06387},
year = {2022}
}
备注
International Conference on Machine Learning (ICML), 2021