Pencil：无需非共谋假设的隐私可扩展协作学习
密码学与安全
2024-03-19 v1 机器学习
摘要
对数据隐私日益增长的关注给协作神经网络训练带来了重大挑战，其中数据所有权与模型训练/部署职责分属不同实体。学术界为应对这一挑战做出了重要贡献，提出了联邦学习（FL）以及基于同态加密（HE）和安全多方计算（MPC）等密码学构造的隐私保护机器学习等多种方法。然而，FL 完全忽视了模型隐私，且 HE 的可扩展性有限（仅限于单一数据提供方）。尽管最先进的 MPC 框架提供了合理的吞吐量并同时确保了模型/数据隐私，但它们依赖于计算服务器上的关键非共谋假设，而放宽该假设仍是一个开放问题。在本文中，我们提出了 Pencil，这是首个用于协作学习的隐私训练框架，它在不依赖非共谋假设的情况下，同时提供了数据隐私、模型隐私以及对多个数据提供方的可扩展性。我们的基本设计原则是基于高效的两方协议构建 n 方协作训练协议，同时确保在模型训练期间切换到不同数据提供方不会引入额外成本。我们引入了若干新颖的密码学协议来实现这一设计原则，并进行了严格的安全与隐私分析。我们对 Pencil 的全面评估表明：（i）明文训练的模型与使用 Pencil 隐私训练的模型表现出几乎相同的测试准确率；（ii）Pencil 的训练开销大幅降低：与现有技术相比，Pencil 实现了 10 至 260 倍的更高吞吐量和低 2 个数量级的通信量；（iii）Pencil 对现有攻击和自适应（白盒）攻击均具有鲁棒性。
引用
@article{arxiv.2403.11166,
title = {Pencil: Private and Extensible Collaborative Learning without the Non-Colluding Assumption},
author = {Xuanqi Liu and Zhuotao Liu and Qi Li and Ke Xu and Mingwei Xu},
journal= {arXiv preprint arXiv:2403.11166},
year = {2024}
}
备注
Network and Distributed System Security Symposium (NDSS) 2024