ReVeil：基于机器遗忘的深度神经网络无约束隐蔽后门攻击
密码学与安全
2025-02-18 v1 人工智能
机器学习
摘要
后门攻击在深度神经网络（DNN）中嵌入隐藏功能，通过特定输入触发恶意行为。高级防御方法监控异常DNN推理以检测此类攻击。然而，隐蔽后门通过维持低于部署前的攻击成功率（ASR）并通过机器遗忘在部署后恢复高ASR来规避检测。现有的隐蔽后门通常受限于需要白盒或黑盒访问或辅助数据，这在缺乏此类访问权限或数据时限制了其实际应用。本文引入ReVeil，一种针对DNN训练管道数据收集阶段的隐蔽后门攻击，无需模型访问或辅助数据。ReVeil在四个数据集和四种触发模式上维持低于部署前的ASR，成功地规避了三种流行的后门检测方法，并通过机器遗忘在部署后恢复高ASR。
引用
@article{arxiv.2502.11687,
title = {ReVeil: Unconstrained Concealed Backdoor Attack on Deep Neural Networks using Machine Unlearning},
author = {Manaar Alam and Hithem Lamri and Michail Maniatakos},
journal= {arXiv preprint arXiv:2502.11687},
year = {2025}
}
备注
This paper is accepted at 62nd Design Automation Conference (DAC) 2025