针对视觉Transformer的后门攻击
计算机视觉与模式识别
2022-06-20 v1 密码学与安全
机器学习
摘要
视觉Transformer（ViT）近期在多种视觉任务上展现出典范级性能，并正被用作CNN的替代方案。其设计基于自注意力机制，将图像作为图像块序列处理，这与CNN截然不同。因此，研究ViTs是否易受后门攻击颇具意义。后门攻击发生于攻击者为恶意目的毒化一小部分训练数据时。模型在干净测试图像上性能良好，但攻击者可通过在测试时展示触发器来操纵模型决策。据我们所知，我们首次表明ViTs易受后门攻击。我们还发现ViTs与CNN间一个有趣差异——解释算法能有效高亮ViTs测试图像上的触发器，而对CNN则不然。基于该观察，我们提出一种针对ViTs的测试时图像遮挡防御，大幅降低了攻击成功率。代码见：https://github.com/UCDvision/backdoor_transformer.git
引用
@article{arxiv.2206.08477,
title = {Backdoor Attacks on Vision Transformers},
author = {Akshayvarun Subramanya and Aniruddha Saha and Soroush Abbasi Koohpayegani and Ajinkya Tejankar and Hamed Pirsiavash},
journal= {arXiv preprint arXiv:2206.08477},
year = {2022}
}