深度三维点云模型在对抗攻击下的等距鲁棒性研究
机器学习
2020-03-11 v2 机器学习
摘要
尽管三维领域的深度学习在许多任务中取得了革命性的性能，这些模型的鲁棒性尚未得到充分的研究或探索。关于三维对抗样本，大多数现有工作聚焦于局部点的操纵，这可能无法引发全局几何性质，例如在保持欧氏距离的线性投影（即等距）下的鲁棒性。在本文中，我们表明现有的最先进深度三维模型对等距变换极其脆弱。借助 Thompson Sampling，我们开发了一种黑盒攻击，在 ModelNet40 数据集上成功率超过 95%。结合受限等距性质，我们提出了一种基于谱范数扰动的白盒攻击新框架。与先前工作相反，我们的对抗样本被实验证明具有极强的可迁移性。在一系列主流三维模型上评估，我们的白盒攻击取得了 98.88% 到 100% 的成功率。即使在难以察觉的旋转范围 内，它也保持了超过 95% 的成功攻击率。
引用
@article{arxiv.2002.12222,
title = {On Isometry Robustness of Deep 3D Point Cloud Models under Adversarial Attacks},
author = {Yue Zhao and Yuwei Wu and Caihua Chen and Andrew Lim},
journal= {arXiv preprint arXiv:2002.12222},
year = {2020}
}
备注
This paper was accepted for presentation at CVPR2020