WaveAttack：基于非对称频率混淆的面向深度神经网络后门攻击
计算机视觉与模式识别
2023-10-20 v2 人工智能
摘要
由于人工智能（AI）技术的普及，众多后门攻击被对手设计出来，通过操纵训练样本与训练过程误导深度神经网络预测。尽管后门攻击在各种真实场景中有效，但仍存在有毒样本保真度低与潜空间不可忽略迁移的问题，使其易被现有后门检测算法发现。为克服该弱点，本文提出一种名为 WaveAttack 的基于频率的新型后门攻击方法，其通过离散小波变换（DWT）获取图像高频特征以生成后门触发器。此外，我们引入一种非对称频率混淆方法，可在训练与推理阶段添加自适应残差，以增强触发器影响并进一步提升 WaveAttack 的有效性。综合实验结果表明，WaveAttack 不仅实现更高的隐蔽性与有效性，而且在图像保真度上优于最先进（SOTA）后门攻击方法，PSNR 提升达 28.27%，SSIM 提升 1.61%，IS 降低 70.59%。
引用
@article{arxiv.2310.11595,
title = {WaveAttack: Asymmetric Frequency Obfuscation-based Backdoor Attacks Against Deep Neural Networks},
author = {Jun Xia and Zhihao Yue and Yingbo Zhou and Zhiwei Ling and Xian Wei and Mingsong Chen},
journal= {arXiv preprint arXiv:2310.11595},
year = {2023}
}