NoiseAttack：一种通过白高斯噪声实现的侵入性样本特定的多目标后门攻击
计算机视觉与模式识别
2024-09-05 v1 人工智能
密码学与安全
机器学习
摘要
后门攻击在使用第三方数据开发深度学习模型时构成重大威胁。在这些攻击中，数据可被篡改，以便在特定触发模式应用到训练好的模型时，使模型行为异常，从而为攻击者提供未授权的优势。虽然大多数现有研究聚焦于设计可见或不可见的触发模式以中毒受害者类别，但这些方法通常仅能将受害者类别转换为攻击者预定义的单一目标类别。这意味着受害者类别只能根据攻击者预设的值被转换为另一类别。本文通过引入一种新颖的样本特定的多目标后门攻击——NoiseAttack来解决这一问题。具体而言，我们采用具有不同功率谱密度（PSD）的白高斯噪声（WGN）作为底层触发器，配合独特的训练策略执行后门攻击。这项工作是首次提出用于生成多个目标类别的视觉后门攻击，且仅需最小的输入配置。此外，我们的广泛实验结果表明，NoiseAttack能够在针对流行网络架构和数据集时实现高攻击成功率，同时能够规避最新的后门检测方法。我们的源代码和实验已在https://github.com/SiSL-URI/NoiseAttack/tree/main上公开。
引用
@article{arxiv.2409.02251,
title = {NoiseAttack: An Evasive Sample-Specific Multi-Targeted Backdoor Attack Through White Gaussian Noise},
author = {Abdullah Arafat Miah and Kaan Icer and Resit Sendag and Yu Bi},
journal= {arXiv preprint arXiv:2409.02251},
year = {2024}
}