指纹攻击：联邦学习中的客户端去匿名化
计算机视觉与模式识别
2023-10-11 v1 机器学习
摘要
联邦学习允许在参与者不信任中央服务器且互不信任的环境下进行协作训练而无需共享数据。通过确保参与者与服务器之间的通信通过 shuffle 进行匿名化，将参与者身份与其数据解耦，可以进一步提高隐私性。本文旨在通过提出一种针对参与者发送给服务器的梯度的新型指纹攻击，来检验这种防御是否足以保证匿名性。我们在两个语言语料库上学习联邦语言模型的实证研究中表明，梯度聚类可以轻易破坏匿名性。随后我们表明，采用差分隐私的训练可以为我们的指纹攻击提供实用的防御。
引用
@article{arxiv.2310.05959,
title = {Automating global landslide detection with heterogeneous ensemble deep-learning classification},
author = {Alexandra Jarna Ganerød and Gabriele Franch and Erin Lindsay and Martina Calovi},
journal= {arXiv preprint arXiv:2310.05959},
year = {2023}
}
备注
Author 1 and Author 2 contributed equally to this work