Silent Killer：一种隐蔽、干净标签、黑盒后门攻击
密码学与安全
2023-10-03 v2 人工智能
计算机视觉与模式识别
机器学习
摘要
后门投毒攻击对神经网络构成众所周知的风险。然而，大多数研究集中于宽松的威胁模型。我们引入了 Silent Killer，一种在干净标签、黑盒设置下运行、使用隐蔽毒化与触发并优于现有方法的新型攻击。我们研究了在干净标签攻击中使用通用对抗扰动作为触发器，此前此类方法在毒化标签设置下取得了成功。我们分析了朴素适配的成功率，发现需要为制作毒化样本进行梯度对齐以确保高成功率。我们在 MNIST、CIFAR10 和精简版 ImageNet 上进行了充分实验，并取得了最先进的结果。
引用
@article{arxiv.2301.02615,
title = {Silent Killer: A Stealthy, Clean-Label, Black-Box Backdoor Attack},
author = {Tzvi Lederer and Gallil Maimon and Lior Rokach},
journal= {arXiv preprint arXiv:2301.02615},
year = {2023}
}