基于类条件胶囊重构的对抗图像检测与诊断
机器学习
2020-02-19 v2 密码学与安全
计算机视觉与模式识别
机器学习
摘要
对抗样本引发了关于神经网络模型是否对人类相同的视觉特征敏感的疑问。在本文中，我们首先基于输入的类条件重构来检测对抗样本或其他被损坏的图像。为专门攻击我们的检测机制，我们提出重构攻击（Reconstructive Attack），其旨在同时造成误分类和较低的重构误差。这种重构攻击产生了未被检测到的对抗样本，但成功率要小得多。在所有这些攻击中，我们发现胶囊网络（CapsNets）始终优于卷积网络。接着，我们针对胶囊网络诊断对抗样本，发现重构攻击的成功与源类和目标类之间的视觉相似性高度相关。此外，由此产生的扰动可使输入图像在视觉上更像是目标类，从而变得非对抗性。这表明胶囊网络使用的特征更符合人类感知，并有可能解决对抗样本所提出的核心问题。
引用
@article{arxiv.1907.02957,
title = {Detecting and Diagnosing Adversarial Images with Class-Conditional Capsule Reconstructions},
author = {Yao Qin and Nicholas Frosst and Sara Sabour and Colin Raffel and Garrison Cottrell and Geoffrey Hinton},
journal= {arXiv preprint arXiv:1907.02957},
year = {2020}
}