可扩展的隐私保护分布式学习
密码学与安全
2021-07-15 v5
摘要
在本文中，我们通过将其置于广泛使用的 MapReduce 抽象中（我们为其扩展了隐私约束）进行分析，来解决隐私保护分布式学习以及机器学习模型评估的问题。我们设计了 SPINDLE（可扩展隐私保护分布式学习，Scalable Privacy-preservINg Distributed LEarning），这是首个覆盖完整机器学习工作流的分布式隐私保护系统，它通过支持协作式梯度下降的执行以及所获模型的评估，并在最多 N-1 个合谋方的被动敌手模型下保护数据与模型机密性。SPINDLE 使用多方同态加密在加密数据上执行并行高深度计算而无需显著开销。我们针对分布式数据集上的广义线性模型的训练与评估实例化了 SPINDLE，并表明它能够准确（与不安全集中训练的模型相当）且高效（由于计算的多级并行化）地训练需要在具有数千特征的大型输入数据上、分布于数百个数据提供方之间进行大量迭代的模型。例如，它在不到三分钟的时间内，在分布于 160 个数据提供方、具有 32 个特征的百万样本数据集上训练了一个逻辑回归模型。
引用
@article{arxiv.2005.09532,
title = {Scalable Privacy-Preserving Distributed Learning},
author = {David Froelicher and Juan R. Troncoso-Pastoriza and Apostolos Pyrgelis and Sinem Sav and Joao Sa Sousa and Jean-Philippe Bossuat and Jean-Pierre Hubaux},
journal= {arXiv preprint arXiv:2005.09532},
year = {2021}
}
备注
Published at the 21st Privacy Enhancing Technologies Symposium (PETS 2021)