对抗环境下 3D 深度学习的鲁棒性

理解真实世界物体的空间排布与性质对许多复杂工程任务（包括自主导航）至关重要。深度学习已革新了 3D 环境下任务的最先进性能；然而，人们相对很少了解这些方法在对抗环境下的鲁棒性。缺乏全面的分析使得难以证明在真实世界安全关键应用中部署 3D 深度学习模型的合理性。在这项工作中，我们开发了一种用于分析处理 3D 数据的神经网络逐点鲁棒性的算法。我们表明，当前用于理解最先进模型韧性的方法严重高估了它们的鲁棒性。然后我们使用我们的算法评估了一系列最先进模型，以展示它们对遮挡攻击的脆弱性。我们表明，在最坏情况下，这些网络在至多 6.5% 的占据输入空间被遮挡后，分类准确率可降至 0%。