基于对抗攻击与防御方法提议的单目深度估计深度网络分析
计算机视觉与模式识别
2019-11-21 v1
摘要
本文研究针对基于卷积神经网络(CNNs)的单目深度估计(MDE)系统的对抗攻击。动机有二：一是研究MDE系统的安全性，该问题在社区中尚未得到积极关注；二是增进我们对执行MDE的CNNs计算机制的理解。为此，我们将近期提出的用于MDE可视化的方法应用于防御攻击：训练另一个CNN从输入图像预测显著图，使得MDE用的CNN在图像非显著部分被掩蔽后仍能准确估计深度图。我们得到如下发现：首先，不出所料，IFGSM(或等价的PGD)攻击成功使CNNs产生不准确的深度估计。其次，可通过掩蔽非显著像素来防御攻击，表明攻击主要通过扰动大多为非显著的像素起作用。然而，显著图预测本身易受攻击，即便它并非攻击的直接目标。我们表明，使用由经训练对攻击鲁棒的CNN预测的显著图可防御这些攻击。这些结果提供了一种有效的防御方法，也为理解CNNs用于MDE的计算机制提供了线索。
引用
@article{arxiv.1911.08790,
title = {Analysis of Deep Networks for Monocular Depth Estimation Through Adversarial Attacks with Proposal of a Defense Method},
author = {Junjie Hu and Takayuki Okatani},
journal= {arXiv preprint arXiv:1911.08790},
year = {2019}
}