基于双流架构抵御对抗样本
计算机视觉与模式识别
2020-01-01 v1
摘要
近年来，深度学习在许多任务上展现出令人印象深刻的性能。然而，近期研究表明，深度学习系统易受人类难以察觉的微小特制扰动的影响。带有此类扰动的图片即所谓的对抗样本，已被证明是基于 DNN 的应用不可忽视的威胁。对 DNN 缺乏更深入的理解阻碍了针对对抗样本的有效防御的发展。在本文中，我们提出一种双流架构，以保护 CNN 免受对抗样本攻击。我们的模型借鉴了安全领域常用的“双流”思想，并利用“高分辨率”与“低分辨率”网络在特征提取上的差异，成功防御了多种攻击方法。我们对双流架构难以被攻破的原因给出了合理解释，并通过实验表明我们的方法难以被最先进的攻击所击败。我们证明了我们的双流架构对当前已知攻击算法构造的对抗样本具有鲁棒性。
引用
@article{arxiv.1912.12859,
title = {Defending from adversarial examples with a two-stream architecture},
author = {Hao Ge and Xiaoguang Tu and Mei Xie and Zheng Ma},
journal= {arXiv preprint arXiv:1912.12859},
year = {2020}
}
备注
10 pages, 5 figures