点集上的对抗攻击与防御
计算机视觉与模式识别
2021-06-01 v4 人工智能
密码学与安全
机器学习
摘要
3D 点云数据在安全关键视觉任务（如高级驾驶辅助系统 ADAS）中效用的出现，促使研究者更加关注 3D 表示与深度网络的鲁棒性。为此，我们开发了一种专用于 3D 点云数据的攻击与防御方案，以防止 3D 点云被篡改并追求抗噪的 3D 表示。通过逐点梯度扰动与对抗性点的添加/删除，提出了一组新颖的 3D 点云攻击操作。我们随后为 3D 点云数据开发了一种灵活的扰动度量方案，以检测潜在的攻击数据或噪声传感数据。值得注意的是，所提出的防御方法甚至能有效检测直接针对该防御的概念验证攻击生成的对抗点云。我们探讨了几种点云网络间对抗攻击的可迁移性，并提出了动量增强的逐点梯度以提升攻击可迁移性。我们进一步分析了从对抗点云到网格 CNN 的可迁移性及其逆过程。在常用点云基准上的大量实验结果证明了所提 3D 攻击与防御框架的有效性。
引用
@article{arxiv.1902.10899,
title = {Adversarial Attack and Defense on Point Sets},
author = {Jiancheng Yang and Qiang Zhang and Rongyao Fang and Bingbing Ni and Jinxian Liu and Qi Tian},
journal= {arXiv preprint arXiv:1902.10899},
year = {2021}
}