通过补丁处理防御视觉Transformer的后门攻击
计算机视觉与模式识别
2023-01-18 v2
摘要
视觉Transformer（ViTs）具有与卷积神经网络截然不同的架构，其归纳偏置显著更少。随着性能的提升，ViTs 的安全性和鲁棒性也至关重要。与许多近期利用 ViTs 对抗对抗样本鲁棒性的工作不同，本文研究了一种代表性的因果攻击，即后门。我们首先考察了 ViTs 对各种后门攻击的脆弱性，发现 ViTs 对现有攻击也相当脆弱。然而，我们观察到 ViTs 的干净数据准确率和后门攻击成功率对位置编码之前的补丁变换表现出不同的响应。基于此发现，我们提出了一种针对 ViTs 的有效方法，通过补丁处理来防御基于补丁和基于混合触发器的后门攻击。性能在多个基准数据集上进行了评估，包括 CIFAR10、GTSRB 和 TinyImageNet，结果表明所提出的新型防御在缓解 ViTs 后门攻击方面非常成功。据我们所知，本文提出了首个利用 ViTs 独特特性抵御后门攻击的防御策略。本文将发表于 AAAI'23 会议论文集。该工作最初于 2021 年 11 月提交至 CVPR'22，随后重新提交至 ECCV'22。论文于 2022 年 6 月公开。作者诚挚感谢 CVPR'22、ECCV'22 和 AAAI'23 程序委员会的所有审稿人。
引用
@article{arxiv.2206.12381,
title = {Defending Backdoor Attacks on Vision Transformer via Patch Processing},
author = {Khoa D. Doan and Yingjie Lao and Peng Yang and Ping Li},
journal= {arXiv preprint arXiv:2206.12381},
year = {2023}
}