故障潜入攻击：误导深度神经网络的隐蔽框架
机器学习
2025-07-08 v2 密码学与安全
计算机视觉与模式识别
机器学习
摘要
尽管深度神经网络（DNN）取得了巨大成就，但最先进的 DNN 的脆弱性引发了对其在许多需要高可靠性的应用领域中安全性的担忧。我们提出了针对 DNN 的故障潜入攻击，其中攻击者旨在通过修改 DNN 参数将某些输入图像误分类为任意目标标签。我们应用 ADMM（交替方向乘子法）来求解具有两个约束的故障潜入攻击优化问题：1）其他图像的分类应保持不变；2）参数修改应被最小化。具体而言，第一个约束要求我们不仅注入指定的故障（误分类），还要通过维持模型准确率来隐藏故障，以实现隐蔽或潜入的考量。第二个约束要求我们最小化参数修改（使用 L0 范数衡量修改的数量，使用 L2 范数衡量修改的幅度）。综合实验评估表明，所提出的框架能够注入多个潜入故障，而不会损失整体测试准确率性能。
引用
@article{arxiv.1905.12032,
title = {Fault Sneaking Attack: a Stealthy Framework for Misleading Deep Neural Networks},
author = {Pu Zhao and Siyue Wang and Cheng Gongye and Yanzhi Wang and Yunsi Fei and Xue Lin},
journal= {arXiv preprint arXiv:1905.12032},
year = {2025}
}
备注
Accepted by the 56th Design Automation Conference (DAC 2019)