中文

捷径无处不在又无处可寻:探索多触发器后门攻击

机器学习 2025-10-08 v4 密码学与安全

摘要

后门攻击已成为深度神经网络(DNN)预训练和部署的重大威胁。尽管已提出许多检测和缓解后门攻击的方法,但大多数方法依赖于识别并消除由后门创建的“捷径”,该捷径将特定的源类链接到目标类。然而,通过设计多个后门触发器来创建无处不在因此又无特定所在的捷径,这些方法很容易被规避。在本研究中,我们探索了多触发器后门攻击的概念,其中多个攻击者利用不同类型的触发器来毒化同一数据集。通过提出并研究三种类型的多触发器攻击,包括并行、顺序和混合攻击,我们证明了:1)多个触发器可以共存、覆盖或交叉激活彼此;2)多触发器后门攻击轻易打破了大多数现有后门检测/移除方法所依赖的普遍捷径假设,使其失效。鉴于多触发器后门攻击带来的安全风险,我们创建了一个多触发器后门毒化数据集,以促进未来对检测和缓解这些攻击的研究,并且我们还讨论了针对多触发器后门攻击的潜在防御策略。我们的代码可在 https://github.com/bboylyg/Multi-Trigger-Backdoor-Attacks 获取。

关键词

引用

@article{arxiv.2401.15295,
  title  = {Shortcuts Everywhere and Nowhere: Exploring Multi-Trigger Backdoor Attacks},
  author = {Yige Li and Jiabo He and Hanxun Huang and Jun Sun and Xingjun Ma and Yu-Gang Jiang},
  journal= {arXiv preprint arXiv:2401.15295},
  year   = {2025}
}

备注

13 pages