面向点云神经网络的可解释性感知单点攻击
计算机视觉与模式识别
2022-03-24 v3
摘要
随着点云神经网络的提出，深度学习开始在3D物体识别领域崭露头角，同时研究者日益关注通过对抗攻击考察点云网络的可靠性。然而，现有研究多旨在欺骗人类或防御算法，少数触及模型自身运作原理的工作在关键点选取上仍存在缺陷。本文提出两种对抗方法：单点攻击(OPA)与关键遍历攻击(CTA)，其结合可解释性技术，旨在探究点云网络的内在运作原理及其对关键点扰动的敏感性。结果表明，流行的点云网络可通过仅移动输入实例中的一个点即以近 成功率被欺骗。此外，我们展示了不同的点归因分布对点云网络对抗鲁棒性的有趣影响。最后，我们讨论了我们的方法如何促进点云网络的可解释性研究。据我们所知，这是首个关注可解释性的基于点云的对抗方法。我们的代码见 https://github.com/Explain3D/Exp-One-Point-Atk-PC。
引用
@article{arxiv.2110.04158,
title = {Explainability-Aware One Point Attack for Point Cloud Neural Networks},
author = {Hanxiao Tan and Helena Kotthaus},
journal= {arXiv preprint arXiv:2110.04158},
year = {2022}
}