DBIA：针对 Transformer 网络的无数据后门注入攻击
计算机视觉与模式识别
2021-11-24 v1 密码学与安全
机器学习
摘要
近年来，Transformer 架构已在自然语言处理（NLP）和计算机视觉（CV）任务中展现出其重要性。尽管已知其他网络模型易受后门攻击（即在模型中嵌入触发器，并在触发器出现时控制模型行为），但此类攻击在 Transformer 模型上是否仍然有效，以及若有效是否能以更具成本效益的方式实施，尚鲜有研究。本文提出 DBIA，一种针对面向 CV 的 Transformer 网络的新颖无数据后门攻击，利用 Transformer 固有的注意力机制生成触发器，并使用投毒的代理数据集注入后门。我们基于三种基准 Transformer（即 ViT、DeiT 和 Swin Transformer）在两个主流图像分类任务（即 CIFAR10 和 ImageNet）上进行了大量实验。评估结果表明，在消耗更少资源的情况下，我们的方法能以高成功率嵌入后门，且对受害 Transformer 的性能影响较小。我们的代码可在 https://anonymous.4open.science/r/DBIA-825D 获取。
引用
@article{arxiv.2111.11870,
title = {DBIA: Data-free Backdoor Injection Attack against Transformer Networks},
author = {Peizhuo Lv and Hualong Ma and Jiachen Zhou and Ruigang Liang and Kai Chen and Shengzhi Zhang and Yunfei Yang},
journal= {arXiv preprint arXiv:2111.11870},
year = {2021}
}