LDP-Fed：具有本地差分隐私的联邦学习
机器学习
2020-06-09 v1 密码学与安全
机器学习
摘要
本文提出 LDP-Fed，一种利用本地差分隐私（LDP）提供形式化隐私保证的新型联邦学习系统。现有 LDP 协议主要开发用于确保单数值或类别值（如 Web 访问日志中的点击计数）收集中的数据隐私。然而，在联邦学习中，模型参数更新是从每个参与者迭代收集的，由高精度（小数点后数十位）的高维连续值组成，使现有 LDP 协议不适用。为应对 LDP-Fed 中的这一挑战，我们设计并开发了两种新方法。首先，LDP-Fed 的 LDP 模块为在多个个体参与者私有数据集上大规模神经网络联邦训练中对模型训练参数的重复收集提供形式化差分隐私保证。其次，LDP-Fed 实现了一套选择与过滤技术，用于扰动并与参数服务器共享选定的参数更新。我们在公开数据上训练深度神经网络的部署中验证了采用精简 LDP 协议的系统。我们将此版本的 LDP-Fed（称为 CLDP-Fed）与其他最先进（SOTA）方法在模型精度、隐私保护和系统能力方面进行比较。
引用
@article{arxiv.2006.03637,
title = {LDP-Fed: Federated Learning with Local Differential Privacy},
author = {Stacey Truex and Ling Liu and Ka-Ho Chow and Mehmet Emre Gursoy and Wenqi Wei},
journal= {arXiv preprint arXiv:2006.03637},
year = {2020}
}