WPDA：基于频率的小波包分解后门攻击
密码学与安全
2024-12-03 v3
摘要
本文探讨了针对基于深度神经网络（DNN）的图像分类的一种新兴安全威胁，即后门攻击。在此场景中，攻击者旨在通过操纵训练数据向模型注入后门，使得该后门能被特定触发器激活，并在推理时引导模型做出目标预测。目前，大多数现有的基于数据投毒的攻击难以在低投毒率下取得成功，从而增加了被防御方法抵御的风险。本文提出了一种新颖的基于频率的小波包分解（WPD）后门攻击方法，WPD将原始图像信号分解为包含不同语义频率信息的频谱图。我们利用WPD对数据集的频率分布进行统计分析，以推断DNN会关注的关键频率区域，并仅将触发器信息注入这些关键频率区域。我们的方法主要包括三个部分：1）频谱图中投毒频率区域的选择；2）触发器生成；3）投毒数据集的生成。我们的方法隐蔽且精确，在CIFAR-10数据集上以极低的0.004%投毒率（即50,000个训练样本中仅2个被投毒）实现了98.12%的攻击成功率（ASR），并能绕过大多数现有的防御方法。此外，我们还提供了可视化分析，以解释我们的方法为何有效。
引用
@article{arxiv.2401.13578,
title = {WPDA: Frequency-based Backdoor Attack with Wavelet Packet Decomposition},
author = {Zhengyao Song and Yongqiang Li and Danni Yuan and Li Liu and Shaokui Wei and Baoyuan Wu},
journal= {arXiv preprint arXiv:2401.13578},
year = {2024}
}
备注
13 pages, 14 figures