PRECAD：基于密码学辅助差分隐私的隐私保护与鲁棒联邦学习
密码学与安全
2021-10-25 v1 机器学习
摘要
联邦学习（FL）允许多个参与客户端通过保持数据集本地化并仅交换模型更新来协作训练机器学习模型。现有FL协议设计已被证明易受旨在破坏数据隐私和/或模型鲁棒性的攻击。近期提出的防御措施仅侧重于确保隐私或鲁棒性之一，而非兼顾二者。本文中，我们开发了名为PRECAD的框架，其在密码学辅助下同时实现差分隐私（DP）并增强针对模型投毒攻击的鲁棒性。利用安全多方计算（MPC）技术（如秘密共享），诚实但好奇的服务器（而非各客户端）在不泄露客户端输入的情况下向模型更新添加噪声，从而相较于基于本地DP的方案，获得了集中式DP在更优隐私-效用权衡方面的益处。同时，设计了密码学辅助的安全验证协议，以在不泄露隐私的前提下核实各客户端模型更新的贡献有界。我们从分析上表明，为确保DP所添加的噪声亦增强了对恶意模型提交的鲁棒性。实验证明，我们的PRECAD框架实现了更高的隐私-效用权衡并增强了所训练模型的鲁棒性。
引用
@article{arxiv.2110.11578,
title = {PRECAD: Privacy-Preserving and Robust Federated Learning via Crypto-Aided Differential Privacy},
author = {Xiaolan Gu and Ming Li and Li Xiong},
journal= {arXiv preprint arXiv:2110.11578},
year = {2021}
}
备注
arXiv admin note: text overlap with arXiv:2012.06337 by other authors