面向深度神经网络频域中不可见后门攻击的研究
密码学与安全
2023-05-19 v1
摘要
深度神经网络（DNNs）在过去十年取得巨大进展，并已应用于各种关键场景。然而，近期研究表明深度神经网络易受后门攻击。通过向训练集注入恶意数据，攻击者可于原始模型中植入后门。后门可长期隐藏，直至被带有特定触发器的样本激活，其隐蔽性极强，给关键应用带来严重安全风险。然而，当前后门攻击的主要局限在于触发器常可被人类感知到。因此，研究后门触发器的隐蔽性至关重要。本文提出一种新颖的频域后门技术。具体而言，我们的方法旨在通过离散傅里叶变换在原始图像的频域中添加后门触发器，从而隐藏触发器。我们在三个基准数据集 MNIST、CIFAR-10 和 Imagenette 上评估了该方法。实验表明，我们可同时欺骗人类检视与 DNN 模型。我们进一步应用两种图像相似度评价指标说明，我们的方法在保持攻击成功率和干净样本精度的同时添加了最微弱的扰动。
引用
@article{arxiv.2305.10596,
title = {Towards Invisible Backdoor Attacks in the Frequency Domain against Deep Neural Networks},
author = {Xinrui Liu and Yajie Wang and Yu-an Tan and Kefan Qiu and Yuanzhang Li},
journal= {arXiv preprint arXiv:2305.10596},
year = {2023}
}
备注
arXiv admin note: text overlap with arXiv:2305.09677