通过严格层输出操纵利用卷积神经网络中池化的脆弱性进行对抗攻击
计算机视觉与模式识别
2020-12-22 v1
摘要
卷积神经网络（CNN）已越来越广泛地应用于智能车辆等移动机器人中。CNN 在机器人应用中的安全性是一个重要问题，其对 CNN 的潜在对抗攻击值得研究。池化是 CNN 中典型的降维与信息丢弃步骤。此类信息丢弃可能导致数据特征的误删与误保留，从而大幅影响网络输出。这可能加剧 CNN 对对抗攻击的脆弱性。本文从网络结构视角出发，通过研究并利用池化的脆弱性对 CNN 进行对抗攻击。首先，提出一种称为严格层输出操纵（SLOM）的新型对抗攻击方法学。随后，设计了一种基于严格池化操纵（SPM）的攻击方法——其为 SLOM 思想的一个实例化——以有效实现对目标 CNN 的 I 类与 II 类对抗攻击。本文还研究并比较了基于 SPM 在不同深度处的攻击性能。此外，比较了通过以 CNN 不同操作层实例化 SLOM 思想所设计的攻击方法的性能。实验结果表明，池化往往比 CNN 中其他操作更易受对抗攻击。
引用
@article{arxiv.2012.11413,
title = {Exploiting Vulnerability of Pooling in Convolutional Neural Networks by Strict Layer-Output Manipulation for Adversarial Attacks},
author = {Chenchen Zhao and Hao Li},
journal= {arXiv preprint arXiv:2012.11413},
year = {2020}
}
备注
7 pages, 6 figures