SDBA：联邦学习中一种隐蔽且持久的durable后门攻击
机器学习
2025-07-31 v2 密码学与安全
摘要
联邦学习是一种在保护数据隐私的前提下训练机器学习模型的有前景的methods。然而，其分布式的特性使其在NLP任务中易受到后门攻击，而且相关研究仍较有限。本文引入SDBA，这是一种针对联邦学习环境中NLP任务的新型后门攻击机制。通过在LSTM和GPT-2模型上进行系统性分析，我们识别出后门注入最易受攻击的层，并通过应用层级梯度遮蔽和top-k%梯度遮蔽，实现了隐蔽性和长期持久性。为了评估SDBA在不同任务上的通用性，我们还额外在T5模型上进行了实验。在下一词预测、情感分析和问答任务上的实验结果表明，SDBA在持久性方面优于现有后门攻击，能有效规避代表性防御机制，在如GPT-2等基于transformer的模型中表现突出。这一结果凸显了针对基于NLP的联邦学习系统需要强大防御策略的紧迫性。
关键词
引用
@article{arxiv.2409.14805,
title = {SDBA: A Stealthy and Long-Lasting Durable Backdoor Attack in Federated Learning},
author = {Minyeong Choe and Cheolhee Park and Changho Seo and Hyunil Kim},
journal= {arXiv preprint arXiv:2409.14805},
year = {2025}
}
备注
Accepted for publication in IEEE Transactions on Dependable and Secure Computing. Accepted version first online: Jul 29 2025