感知深度神经网络：通过输入重建实现对抗鲁棒性
计算机视觉与模式识别
2020-12-01 v4 人工智能
密码学与安全
机器学习
摘要
对抗样本已表明，尽管机器学习的模型准确率很高，但与人类不同，它们存在许多弱点。然而，人类的感知也与机器根本不同，因为我们并非看到到达视网膜的信号，而是对这些信号相当复杂的重建。本文中，我们探讨机器如何重建输入并研究这种增强感知的益处。对此，我们提出感知深度神经网络(DNN)，其在进一步处理前也重建自身输入。该概念被数学形式化并发展出两种变体（一种基于整图修复，另一种基于含噪重定尺寸超分辨率重建）。实验揭示DNN及其对抗训练变体可大幅提升鲁棒性，在100%的测试中超越最先进防御与预处理类防御。DNN被证明能良好扩展到更大图像尺寸，保持类似的高准确率；而最先进方法准确率下降达35%。此外，重建过程有意破坏输入图像。有趣的是，我们通过消融实验表明，破坏输入虽反直觉却是有益的。因此，DNN揭示了输入重建对人工神经网络具有类似生物神经网络的显著益处，阐明了有意破坏输入的重要性，并开创了基于GAN与自动编码器用于鲁棒识别的感知模型领域。
引用
@article{arxiv.2009.01110,
title = {Perceptual Deep Neural Networks: Adversarial Robustness through Input Recreation},
author = {Danilo Vasconcellos Vargas and Bingli Liao and Takahiro Kanzaki},
journal= {arXiv preprint arXiv:2009.01110},
year = {2020}
}