将对抗攻击与防御扩展到深度三维点云分类器
计算机视觉与模式识别
2019-07-01 v4 密码学与安全
机器学习
机器学习
摘要
使用深度神经网络进行三维物体分类与分割已取得极大成功。由于三维物体识别问题具有许多安全关键应用，神经网络必须对抗输入数据集的对抗性扰动保持鲁棒。在二维图像分类领域，关于生成人眼难以察觉的对抗攻击及其防御的研究日益增多。然而，三维物体与二维图像存在诸多差异，该特定领域迄今尚未被严格研究。我们对深度三维点云分类器（即 PointNet 与 PointNet++）上的对抗攻击进行了初步评估，评估了为二维图像提出的白盒与黑盒对抗攻击，并将这些攻击扩展以降低三维空间中扰动的可见性。我们还通过提出利用三维点云独特结构的新防御方法，展示了简单防御对这些攻击的高度有效性。最后，我们尝试通过点云与神经网络架构的内在结构来解释防御的有效性。总体而言，我们发现处理三维点云数据的网络易受对抗攻击，但相较于二维图像分类器也更易防御。我们的研究将为未来提升处理三维数据的深度神经网络鲁棒性的工作奠定基础。
引用
@article{arxiv.1901.03006,
title = {Extending Adversarial Attacks and Defenses to Deep 3D Point Cloud Classifiers},
author = {Daniel Liu and Ronald Yu and Hao Su},
journal= {arXiv preprint arXiv:1901.03006},
year = {2019}
}
备注
Abridged version accepted at the 2019 IEEE International Conference on Image Processing (ICIP). Source code: https://github.com/Daniel-Liu-c0deb0t/3D-Neural-Network-Adversarial-Attacks