几何感知的对抗点云生成

机器学习模型已被证明易受对抗样本攻击。虽然现有的大多数对抗攻击与防御方法针对 2D 图像域，但近期已有少数尝试将其扩展到 3D 点云数据。然而，这些方法获得的对抗结果通常含有点离群值，既明显又易于通过简单的离群值去除技术进行防御。受人类感知 2D 图像与 3D 形状不同机制的启发，本文提出新的\emph{几何感知目标}设计，其解倾向于（所需表面性质的离散版本）光滑性与公平性的特性。为生成对抗点云，我们使用支持对日益恶意信号进行连续追踪的目标攻击误分类损失。用我们提出的几何感知目标对目标攻击损失进行正则化，得到我们提出的方法——几何感知对抗攻击（$GeoA^3$）。$GeoA^3$ 的结果往往更具危害性，可以说更难防御，并具有对人类不可感知这一关键对抗特征。虽然本文主要聚焦于学习生成对抗点云，我们也提出了一种简单而有效的算法 $Geo_{+}A^3$-IterNormPro，其通过迭代法向投影（IterNorPro）求解新目标函数 $Geo_{+}A^3$，以通过生成对抗点云实现表面级对抗攻击。我们在合成物体与物理物体上就攻击成功率和几何规则性对我们的方法进行了定量评估。对于定性评估，我们通过 Amazon Mechanical Turk 收集人类偏好进行主观研究。综合实验中的对比结果证实了我们提出方法的优势。