基于注视的机制缓解对抗样本
机器学习
2016-01-20 v3 计算机视觉与模式识别
摘要
我们表明，对抗样本——即导致卷积神经网络（CNN）失效的视觉上不可察觉的扰动——可以通过一种基于注视的机制来缓解，该机制在不同图像区域应用 CNN。为了说明这一点，我们首先报告了在 ImageNet 上的结果，这些结果促使我们修正了对抗扰动是 CNN 充当线性分类器的后果这一假设：CNN 在被其识别出物体的图像区域中对变化呈局部线性作用，而在其他区域中 CNN 可能呈非线性作用。然后，我们证实了当神经响应呈线性时，将注视机制应用于对抗样本往往会显著降低扰动的影响。这是因为，假设针对 ImageNet 的 CNN 对注视产生的物体尺度和平移变化具有鲁棒性，但这一特性并不能推广到扰动的变换上。因此，注视后的准确率几乎与 CNN 在没有对抗扰动时的准确率相同，即使对抗扰动是在考虑了注视的情况下计算出来的。
引用
@article{arxiv.1511.06292,
title = {Foveation-based Mechanisms Alleviate Adversarial Examples},
author = {Yan Luo and Xavier Boix and Gemma Roig and Tomaso Poggio and Qi Zhao},
journal= {arXiv preprint arXiv:1511.06292},
year = {2016}
}