代理模型扩展(SME)：一种针对联邦学习的快速且精确的权重更新攻击
机器学习
2023-06-02 v1 密码学与安全
摘要
在联邦学习(FL)以及许多其他分布式训练框架中，协作者可以在本地保留其私有数据，并仅在多次迭代后共享用本地数据训练得到的网络权重。梯度反演是一类从生成梯度中恢复数据的隐私攻击。看似FL能针对基于权重更新的梯度反演攻击提供一定程度的保护，因为单步梯度被多次本地迭代的梯度累积所掩盖。本工作中，我们提出一种原则性方法，将梯度反演攻击扩展到FL中的权重更新，从而更好地暴露FL中 presumed 隐私保护所存在的弱点。具体而言，我们基于二维梯度流特征与本地更新的低秩性质，提出了一种代理模型方法。我们的方法大幅提升了针对包含多次迭代的权重更新的梯度反演攻击能力，并达到了最先进(SOTA)性能。此外，在常见FL场景下，我们的方法比SOTA基线快达。我们的工作重新评估并凸显了共享网络权重的隐私风险。我们的代码见 https://github.com/JunyiZhu-AI/surrogate_model_extension。
引用
@article{arxiv.2306.00127,
title = {Surrogate Model Extension (SME): A Fast and Accurate Weight Update Attack on Federated Learning},
author = {Junyi Zhu and Ruicong Yao and Matthew B. Blaschko},
journal= {arXiv preprint arXiv:2306.00127},
year = {2023}
}
备注
Accepted at ICML 2023