PointCA：评估三维点云补全模型对对抗样本的鲁棒性
计算机视觉与模式识别
2022-12-02 v2 密码学与安全
摘要
点云补全作为三维识别与分割的上游环节，已成为导航与场景理解等诸多任务的重要组成部分。尽管各类点云补全模型已展现出强大能力，但它们对对抗攻击的鲁棒性仍属未知——而对抗攻击已被证明对深度神经网络具有致命危害。此外，由于输出形式与攻击目的不同，现有面向点云分类器的攻击方法无法应用于补全模型。为评估补全模型的鲁棒性，我们提出PointCA，即首个针对三维点云补全模型的对抗攻击。PointCA可生成与原始点云保持高相似度的对抗点云，同时被补全为具有完全不同语义信息的另一物体。具体而言，我们最小化对抗样本与目标点集之间的表征差异，以在几何空间与特征空间中联合搜索对抗点云。进一步，为发起更隐蔽的攻击，我们创新性地利用邻域密度信息来定制扰动约束，从而对每个点实现几何感知且分布自适应的修改。针对多个主流点云补全网络的充分实验表明，PointCA可使性能从77.9%降至16.7%，且结构倒角距离保持在0.01以下。我们得出结论：现有补全模型对对抗样本存在严重脆弱性，且针对点云分类的先进防御方法在应用于不完整且不均匀的点云数据时将部分失效。
引用
@article{arxiv.2211.12294,
title = {PointCA: Evaluating the Robustness of 3D Point Cloud Completion Models Against Adversarial Examples},
author = {Shengshan Hu and Junwei Zhang and Wei Liu and Junhui Hou and Minghui Li and Leo Yu Zhang and Hai Jin and Lichao Sun},
journal= {arXiv preprint arXiv:2211.12294},
year = {2022}
}
备注
Accepted by the 37th AAAI Conference on Artificial Intelligence (AAAI-23)