中文

重新思考后门攻击的触发器

密码学与安全 2021-02-02 v3 计算机视觉与模式识别 机器学习

摘要

后门攻击旨在将隐藏后门注入深度神经网络(DNNs),使得若隐藏后门被攻击者定义的触发器激活,受感染模型的预测将被恶意改变,而在良性样本上表现良好。目前,大多数现有后门攻击采用\emph{静态}触发器的设置,即训练和测试图像中的触发器具有相同的外观并位于相同区域。在本文中,我们通过分析静态触发器的特性重新审视该攻击范式。我们证明了当测试图像中的触发器与训练所用触发器不一致时,此类攻击范式是脆弱的。我们进一步探索如何利用该性质进行后门防御,并讨论如何缓解现有攻击的这种脆弱性。

关键词

引用

@article{arxiv.2004.04692,
  title  = {Rethinking the Trigger of Backdoor Attack},
  author = {Yiming Li and Tongqing Zhai and Baoyuan Wu and Yong Jiang and Zhifeng Li and Shutao Xia},
  journal= {arXiv preprint arXiv:2004.04692},
  year   = {2021}
}

备注

18 pages