SRATTA：联邦学习中安全聚合的样本重归属攻击
机器学习
2023-06-14 v1 密码学与安全
摘要
我们考虑一个跨机构（cross-silo）联邦学习（FL）设置，其中具有全连接第一层的机器学习模型在不同客户端与中央服务器之间使用 FedAvg 训练，且聚合步骤可通过安全聚合（SA）执行。我们提出 SRATTA，一种仅依赖聚合模型的攻击，在现实假设下，(i) 从各客户端恢复数据样本，且 (ii) 将来自同一客户端的样本归为一组。尽管样本恢复已在 FL 设置中被探讨，但在使用 SA 的情况下仍能按客户端分组样本的能力是新颖的。这对 FL 构成了显著且未预见的安全威胁，并实质上破坏了 SA。我们表明 SRATTA 既有理论依据，也可在实际中对真实模型与数据集使用。我们还提出对策，并主张客户端应在训练期间发挥积极作用以保障其隐私。
引用
@article{arxiv.2306.07644,
title = {SRATTA : Sample Re-ATTribution Attack of Secure Aggregation in Federated Learning},
author = {Tanguy Marchand and Régis Loeb and Ulysse Marteau-Ferey and Jean Ogier du Terrail and Arthur Pignet},
journal= {arXiv preprint arXiv:2306.07644},
year = {2023}
}
备注
Accepted to ICML2023