破解安全聚合：联邦学习中聚合梯度标签泄露
密码学与安全
2024-06-25 v1 人工智能
摘要
联邦学习(FL)在梯度反转攻击(GIA)下存在隐私漏洞，这些攻击可以从单个梯度中提取私有信息。为了增强隐私，FL采用安全聚合(SA)来防止服务器获取单个梯度，从而有效抵抗GIA。本文提出一种隐蔽的标签推理攻击，以绕过SA并恢复单个客户私有标签。具体而言，我们对在实施SA后仅获得的聚合梯度进行标签推理的理论分析。分析结果表明，最终完全连接层(FCL)的输入(嵌入)和输出(逻辑)对梯度分解和标签恢复具有贡献。为了预设FCL的嵌入和逻辑，我们通过仅修改原始模型中单个批量归一化(BN)层的参数来构建捕鱼模型。分发针对每个客户的捕鱼模型后，服务器可以通过解决线性系统以预期嵌入和聚合梯度作为系数来推导出关于FCL偏置的单个梯度。然后，基于预设的逻辑和FCL偏置的梯度，可以精确计算每个客户的标签。大量实验表明，我们的攻击在各种数据集和模型架构上实现了大规模标签恢复，准确率为100%。
引用
@article{arxiv.2406.15731,
title = {Breaking Secure Aggregation: Label Leakage from Aggregated Gradients in Federated Learning},
author = {Zhibo Wang and Zhiwei Chang and Jiahui Hu and Xiaoyi Pang and Jiacheng Du and Yongle Chen and Kui Ren},
journal= {arXiv preprint arXiv:2406.15731},
year = {2024}
}
备注
10 pages, conference to IEEE INFOCOM 2024