Sleeper Agent：面向从头训练神经网络的可扩展隐藏触发后门
机器学习
2022-10-14 v3 密码学与安全
计算机视觉与模式识别
摘要
随着机器学习数据筛选日益自动化，数据集篡改正成为一种日益严重的威胁。后门攻击者篡改训练数据，以在基于该数据训练的模型中嵌入漏洞。该漏洞随后通过在模型输入中放置“触发器”而在推理时被激活。典型的后门攻击将触发器直接插入训练数据，尽管此类攻击的存在可能在检查时被察觉。相比之下，隐藏触发后门攻击（Hidden Trigger Backdoor Attack）在不将触发器放入训练数据的情况下实现投毒。然而，这种隐藏触发攻击对从头训练的神经网络无效。我们提出了一种新的隐藏触发攻击——Sleeper Agent，其在构造过程中采用梯度匹配、数据选择和目标任务模型重训练。Sleeper Agent是首个对从头训练的神经网络有效的隐藏触发后门攻击。我们在ImageNet及黑盒设定下展示了其有效性。我们的实现代码可在 https://github.com/hsouri/Sleeper-Agent 找到。
引用
@article{arxiv.2106.08970,
title = {Sleeper Agent: Scalable Hidden Trigger Backdoors for Neural Networks Trained from Scratch},
author = {Hossein Souri and Liam Fowl and Rama Chellappa and Micah Goldblum and Tom Goldstein},
journal= {arXiv preprint arXiv:2106.08970},
year = {2022}
}
备注
NeurIPS 2022