面向图像到图像网络的后门攻击
计算机视觉与模式识别
2024-11-19 v1 人工智能
密码学与安全
摘要
最近，基于深度学习的图像到图像（I2I）网络已成为图像超分辨率和去噪等I2I任务的首选方案。尽管其在性能方面取得显著成果，但I2I网络的后门漏洞尚未受到探讨。为填补这一研究空白，我们对I2I网络抵抗后门攻击的易受性进行了全面调查。具体而言，我们提出了一种新型后门攻击技术，使被篡改的I2I网络在干净输入图像上正常工作，但在包含触发器的恶意输入图像上输出预定义的图像。为实现此I2I后门攻击，我们提出了一种针对I2I网络的面向通用对抗扰动（UAP）生成算法，其中生成的UAP用作后门触发器。此外，在包含主任务和后门任务的后门训练过程中，采用多任务学习（MTL）与动态加权方法以加快收敛速度。除了攻击I2I任务外，我们还将I2I后门扩展到攻击下游任务，包括图像分类和目标检测。广泛实验表明，I2I后门在最先进的I2I网络架构上均有效，且对不同主流后门防御方法具有较强鲁棒性。
引用
@article{arxiv.2407.10445,
title = {Backdoor Attacks against Image-to-Image Networks},
author = {Wenbo Jiang and Hongwei Li and Jiaming He and Rui Zhang and Guowen Xu and Tianwei Zhang and Rongxing Lu},
journal= {arXiv preprint arXiv:2407.10445},
year = {2024}
}