Hercules：提升隐私保护联邦学习的性能
密码学与安全
2022-07-12 v1
摘要
本文中，我们解决了具有 个用户的隐私保护联邦神经网络训练问题。我们提出 Hercules，一种高效且高精度的训练框架，可容忍多达 个用户的合谋。Hercules 遵循 Sav 等人（NDSS'21）提出的 POSEIDON 框架，但在性能上实现了质的飞跃，具有以下贡献：(i) 我们设计了一种用于矩阵运算的新型并行同态计算方法，可在密文上实现快速单指令多数据（SIMD）操作。对于两个 维矩阵的乘法，我们的方法将计算复杂度从 降低到 。由于密文计算以卷积运算为主，这极大提升了神经网络的训练效率；(ii) 我们基于复合多项式逼近提出了一种高效的符号函数逼近。它用于逼近非多项式函数（即 ReLU 和 max），具有最优渐近复杂度。在各种基准数据集（BCW、ESR、CREDIT、MNIST、SVHN、CIFAR-10 和 CIFAR-100）上的大量实验表明，与 POSEIDON 相比，Hercules 的模型精度提升高达 4%，计算和通信成本降低高达 60。
引用
@article{arxiv.2207.04620,
title = {Hercules: Boosting the Performance of Privacy-preserving Federated Learning},
author = {Guowen Xu and Xingshuo Han and Shengmin Xu and Tianwei Zhang and Hongwei Li and Xinyi Huang and Robert H. Deng},
journal= {arXiv preprint arXiv:2207.04620},
year = {2022}
}