基于网络剖析路径提取的对抗防御
机器学习
2019-05-10 v2 密码学与安全
计算机视觉与模式识别
机器学习
摘要
最近，研究人员开始根据深度神经网络模型的语义或功能对其进行分解。近期的工作表明，分解出的功能块在防御对抗攻击方面是有效的，这类攻击通过向输入图像添加微小的输入扰动来欺骗 DNN 模型。本工作提出了一种基于剖析的方法，将 DNN 模型分解为不同的功能块，从而得到有效路径，作为探索 DNN 内部组织的一种新方法。具体而言，每张图像的有效路径可以聚合为类级别的有效路径，通过它我们观察到对抗图像激活的有效路径不同于正常图像。我们提出了一种基于有效路径相似度的方法，利用可解释模型检测对抗图像，其准确率更高，适用性也比 state-of-the-art 技术更广。
引用
@article{arxiv.1904.08089,
title = {Adversarial Defense Through Network Profiling Based Path Extraction},
author = {Yuxian Qiu and Jingwen Leng and Cong Guo and Quan Chen and Chao Li and Minyi Guo and Yuhao Zhu},
journal= {arXiv preprint arXiv:1904.08089},
year = {2019}
}