保护数据免受各方威胁：联邦学习中全同态加密与差分隐私的结合
密码学与安全
2022-06-01 v2 机器学习
摘要
本文解决了联邦学习场景下训练数据隐私保护的问题。基于同态加密（HE）和差分隐私（DP），我们提出了一种应对训练数据隐私威胁的框架。值得注意的是，该框架确保了训练数据对学习过程中所有参与者的隐私，即数据拥有者和聚合服务器。更确切地说，HE在训练协议期间对半诚实服务器进行盲化，而DP保护数据免受参与训练过程的半诚实客户端以及具有训练模型黑盒或白盒访问权限的终端用户的窥探。为此，我们提供了新的理论和实际结果，使这些技术能够被严格结合。特别地，通过一种新颖的随机量化算子，我们在因使用HE而导致噪声被量化和有界的背景下证明了DP保障。文章最后通过实验展示了整个框架在模型质量（受DP影响）和计算开销（受HE影响）方面的实用性。
引用
@article{arxiv.2205.04330,
title = {Protecting Data from all Parties: Combining FHE and DP in Federated Learning},
author = {Arnaud Grivet Sébert and Renaud Sirdey and Oana Stan and Cédric Gouy-Pailler},
journal= {arXiv preprint arXiv:2205.04330},
year = {2022}
}
备注
21 pages, 2 figures, 2 tables