SafeNet：集成方法在隐私协作学习中出乎意料的有效性
密码学与安全
2022-09-09 v2 机器学习
摘要
安全多方计算（MPC）被提出用于让多个互不信任的数据拥有方在其合并数据上联合训练机器学习（ML）模型。然而，按设计，MPC 协议忠实地计算训练功能，而对抗机器学习社区已表明该功能会泄露隐私信息，并可能在投毒攻击中被篡改。在本文中，我们论证了在我们的 SafeNet 框架中实现的模型集成，是一种高度适配 MPC 的方式，可避免许多对抗机器学习攻击。MPC 训练中数据在拥有方之间的自然划分使该方法在训练时具有高度可扩展性，提供可证明的投毒攻击防护，并可证明地防御多种隐私攻击。我们在多个机器学习数据集及端到端与迁移学习场景下训练的模型上展示了 SafeNet 的效率、准确性及对投毒的韧性。例如，SafeNet 显著降低了后门攻击成功率，同时相比 Dalskov 等人的四方 MPC 框架实现了 39 倍更快的训练与 36 倍更少的通信。我们的实验表明，即使在许多非独立同分布设置下，集成仍保留这些优势。集成的简单性、低成本部署与鲁棒性使其成为 MPC 中隐私训练 ML 模型的首选。
引用
@article{arxiv.2205.09986,
title = {SafeNet: The Unreasonable Effectiveness of Ensembles in Private Collaborative Learning},
author = {Harsh Chaudhari and Matthew Jagielski and Alina Oprea},
journal= {arXiv preprint arXiv:2205.09986},
year = {2022}
}