一种精确、可扩展且可验证的联邦差分隐私平均协议
密码学与安全
2022-10-31 v3 分布式、并行与集群计算
机器学习
机器学习
摘要
从多方拥有的数据中学习，如在联邦学习中，带来了关于提供给参与者的隐私保证以及在存在恶意方时计算正确性的挑战。我们在分布式平均这一联邦学习算法的基本构建模块的背景下应对这些挑战。我们的第一个贡献是一个可扩展的协议，其中参与者沿网络图的边交换相关的 Gaussian 噪声，并辅以每一方添加的 independent 噪声。我们分析了我们的协议的差分隐私保证以及在合谋恶意方下的图拓扑影响，表明即使每个诚实方仅与随机选取的数量对数级的其他方通信，我们也几乎可以匹配可信 curator 模型的效用。这与局部隐私模型下的协议（效用较低）或基于安全聚合的协议（所有用户对都需要交换消息）形成对比。我们的第二个贡献使用户能够证明其计算的正确性，而不损害协议的效率与隐私保证。我们的验证协议依赖于标准的密码学原语，如承诺方案与零知识证明。
引用
@article{arxiv.2006.07218,
title = {An Accurate, Scalable and Verifiable Protocol for Federated Differentially Private Averaging},
author = {César Sabater and Aurélien Bellet and Jan Ramon},
journal= {arXiv preprint arXiv:2006.07218},
year = {2022}
}
备注
Accepted to Machine Learning Journal. This arXiv version contains an additional introduction to zero knowledge proofs (Appendix D.2)