一种针对深度神经网络和视觉Transformer的有效且鲁棒的后门攻击框架
计算机视觉与模式识别
2024-12-10 v1 密码学与安全
摘要
近期研究揭示了深度神经网络(DNN)模型对后门攻击的脆弱性。然而，现有的后门攻击任意设置触发器掩码或使用随机选择的触发器，这限制了所生成后门触发器的有效性和鲁棒性。在本文中，我们提出了一种新颖的基于注意力的掩码生成方法，用于搜索最优的触发器形状和位置。我们还在损失函数中引入了体验质量(QoE)项，并仔细调整触发器的透明度值，以使带有后门的样本更加自然。为了进一步提高受害模型的预测准确性，我们提出了一种在后门注入过程中使用的交替重训练算法。受害模型在偶数轮次使用混合的毒化数据集进行重训练，在奇数轮次仅使用良性样本。此外，我们在一个协同优化的攻击框架下发起后门攻击，该框架交替优化后门触发器和带有后门的模型，以进一步提升攻击性能。除了DNN模型，我们还将我们提出的攻击方法扩展到视觉Transformer。我们使用VGG-Flower、CIFAR-10、GTSRB、CIFAR-100和ImageNette数据集进行了大量实验来评估我们提出的方法。结果表明，在毒化率较低时，与基线相比，我们的攻击成功率可提高高达82%，并且后门样本具有较高的QoE。我们提出的后门攻击框架还展示了对最先进后门防御的鲁棒性。
关键词
引用
@article{arxiv.2412.06149,
title = {An Effective and Resilient Backdoor Attack Framework against Deep Neural Networks and Vision Transformers},
author = {Xueluan Gong and Bowei Tian and Meng Xue and Yuan Wu and Yanjiao Chen and Qian Wang},
journal= {arXiv preprint arXiv:2412.06149},
year = {2024}
}