增强时空联邦学习隐私性:针对梯度反向攻击
密码学与安全
2024-07-16 v3
摘要
时空联邦学习因其仅通过共享梯度即可在各种位置服务中训练有价值模型而近期引发广泛关注。然而,近期研究表明,共享的梯度可能受到图像或文本上的梯度反向攻击(GIA)的威胁。目前尚无针对时空联邦学习中梯度反向攻击的系统性研究。本文从攻击与防御两个角度探讨时空联邦学习中的梯度攻击问题。为理解时空联邦学习中的隐私风险,我们首先提出时空梯度反向攻击(ST-GIA),一种针对时空数据的梯度攻击算法,成功重建原始位置信息。此外,我们设计了一种自适应防御策略,以缓解时空联邦学习中的梯度反向攻击。通过动态调整扰动水平,我们为不同训练轮次的数据提供量身定制的保护,从而在当前最先进方法的基础上实现更好的隐私与实用性之间的权衡。通过对三组真实数据集的深入实验分析,我们发现所提出的防御策略能够有效保障时空联邦学习的实用性,同时实现有效的安全防护。
引用
@article{arxiv.2407.08529,
title = {Enhancing Privacy of Spatiotemporal Federated Learning against Gradient Inversion Attacks},
author = {Lele Zheng and Yang Cao and Renhe Jiang and Kenjiro Taura and Yulong Shen and Sheng Li and Masatoshi Yoshikawa},
journal= {arXiv preprint arXiv:2407.08529},
year = {2024}
}
备注
Accepted by DASFAA 2024, 16 pages