三维点云上的几何对抗攻击与防御
计算机视觉与模式识别
2021-10-19 v3
摘要
深度神经网络容易受到恶意改变网络输出的对抗样本的影响。由于安全关键系统中三维传感器的日益普及以及深度学习模型在三维点集上的大量部署，针对此类模型的对抗攻击与防御研究兴趣不断增长。迄今为止，研究主要集中在语义层面，即深度点云分类器。然而，点云也广泛以几何相关形式使用，包括几何的编码与重建。在本文中，我们首次考虑几何层面的对抗样本问题。在此设定下，问题是如何对干净源点云施加微小改动，使其在通过自编码器模型后重建出不同的目标形状。我们的攻击与现有的三维点云语义攻击形成鲜明对比。此类工作旨在修改分类器预测的标签，而我们改变的是整个重建几何。此外，我们展示了在防御情形下我们攻击的鲁棒性，表明在对对抗输入施加防御后，目标形状的残留特征仍出现在输出中。我们的代码公开于 https://github.com/itailang/geometric_adv。
引用
@article{arxiv.2012.05657,
title = {Geometric Adversarial Attacks and Defenses on 3D Point Clouds},
author = {Itai Lang and Uriel Kotlicki and Shai Avidan},
journal= {arXiv preprint arXiv:2012.05657},
year = {2021}
}
备注
3DV 2021