面向FedML的拜占庭鲁棒与隐私保护框架
密码学与安全
2021-05-07 v1 硬件体系结构
机器学习
摘要
联邦学习已成为一种流行的范式,用于从分布在一组客户端之间的数据协同训练模型。该学习设定带来了诸多独特挑战,其中包括:如何在训练期间保护客户端数据的隐私,以及如何确保训练模型的完整性。我们提出一种双管齐下的解决方案,旨在单一框架内应对这两大挑战。首先,我们提议在服务器内使用可信执行环境(TEE)创建安全飞地。每个客户端随后可加密其梯度并发送至可验证的飞地。梯度在飞地内解密,无需担忧隐私泄露。然而,TEE中的鲁棒性检查计算在计算上代价高昂。因此,在第二步中,我们执行一种新颖的梯度编码,使TEE能够编码梯度,然后将拜占庭检查计算卸载到诸如GPU的加速器上。我们提出的方法提供了信息泄露的理论界限,并在实证评估中相较基线实现了显著加速。
引用
@article{arxiv.2105.02295,
title = {Byzantine-Robust and Privacy-Preserving Framework for FedML},
author = {Hanieh Hashemi and Yongqin Wang and Chuan Guo and Murali Annavaram},
journal= {arXiv preprint arXiv:2105.02295},
year = {2021}
}