随机掩码：迈向鲁棒卷积神经网络
计算机视觉与模式识别
2020-07-29 v1
摘要
神经网络的鲁棒性近来因对抗样本而受到关注，即添加了人类难以察觉但能使网络给出错误输出的精心设计的扰动的输入。本文中，我们设计了一种本身具备良好鲁棒性的新型CNN架构。我们引入一种简单但有效的技术——随机掩码（Random Mask），以修改现有的CNN结构。我们表明，带有随机掩码的CNN在不进行任何对抗训练的情况下，针对黑盒对抗攻击达到了最先进的性能。接下来我们研究了那些能“欺骗”带随机掩码的CNN的对抗样本。令人惊讶的是，我们发现这些对抗样本往往也能“欺骗”人类。这就对如何恰当地定义对抗样本与鲁棒性提出了根本性问题。
引用
@article{arxiv.2007.14249,
title = {RANDOM MASK: Towards Robust Convolutional Neural Networks},
author = {Tiange Luo and Tianle Cai and Mengxiao Zhang and Siyu Chen and Liwei Wang},
journal= {arXiv preprint arXiv:2007.14249},
year = {2020}
}
备注
arXiv admin note: substantial text overlap with arXiv:1911.08432