基于对抗引导的有状态防御：针对联邦深度学习中的后门攻击
机器学习
2024-10-16 v1 密码学与安全
计算机视觉与模式识别
摘要
最近的研究表明，联邦学习（FL）易受到后门攻击。现有防御方法通过聚类客户提交的更新并选择最佳聚类进行聚合，但往往依赖于关于客户提交内容和抽样客户群体的不现实假设。我们指出，在现实的FL环境中，当前最先进（SOTA）防御方法在面对后门攻击时表现不佳。为此，我们指出后门提交的内容在与干净提交内容相比时具有对抗性偏差和过度自信。因此，我们提出了一种针对联邦深度学习中后门攻击的“对抗引导的有状态防御”（AGSD）。AGSD利用对小型保留数据集的对抗扰动来计算一种新型指标——信任指数——以引导聚类选择，而无需对客户提交内容做出任何不现实的假设。此外，AGSD维护每个客户的信任状态历史，能够自适应地惩罚后门客户并奖励干净客户。在现实的FL环境中，当SOTA防御大多数情况下难以抵抗攻击时，AGSD能够表现出色，即使（a）仅给定非常小的保留数据集——通常AGSD假设50个样本（<=训练数据的0.1%），或（b）没有可用保留数据集，改用分布外数据。为保证可重复性，我们的代码将在https://github.com/hassanalikhatim/AGSD上公开。
引用
@article{arxiv.2410.11205,
title = {Adversarially Guided Stateful Defense Against Backdoor Attacks in Federated Deep Learning},
author = {Hassan Ali and Surya Nepal and Salil S. Kanhere and Sanjay Jha},
journal= {arXiv preprint arXiv:2410.11205},
year = {2024}
}
备注
16 pages, Accepted at ACSAC 2024