Camel: 面向洗牌模型下恶意安全联邦学习的通信高效方案
密码学与安全
2024-10-07 v1
摘要
联邦学习（FL）已迅速成为一种引人注目的范式，使多个客户端能够通过仅共享梯度更新来联合训练模型，而无需透露其本地私有数据。为保护可能也具有隐私敏感性的梯度更新，有研究者通过局部差分隐私（LDP）机制来提供正式的隐私保障。然而，采用LDP机制的做法因添加大量噪声而显著降低模型效用。为实现更好的隐私-效用权衡，近期趋势是应用FL中的洗牌模型，以通过对扰动后的梯度更新进行中间洗牌操作来实现隐私放大。跟随这一趋势，本文提出Camel，一个在FL的洗牌模型下实现通信高效且恶意安全的联邦学习框架。Camel首先超越现有工作，通过支持洗牌计算的完整性检查，实现对恶意攻击者的安全防护。具体而言，Camel基于最新流行的加密原语——共享洗牌，结合我们开发的自定义技术，以优化系统范围的通信效率，并实现轻量级完整性检查以强化服务器端计算的安全性。此外，我们还通过分析整个FL过程的Renyi差分隐私（RDP），推导出显著 tighter 的隐私损耗界限。大量实验表明，Camel在隐私-效用权衡方面优于最先进的工作，性能前景十分可望。
引用
@article{arxiv.2410.03407,
title = {Camel: Communication-Efficient and Maliciously Secure Federated Learning in the Shuffle Model of Differential Privacy},
author = {Shuangqing Xu and Yifeng Zheng and Zhongyun Hua},
journal= {arXiv preprint arXiv:2410.03407},
year = {2024}
}
备注
Accepted by CCS'2024