利用扩散模型生成对抗点云
密码学与安全
2025-07-30 v1 人工智能
机器学习
摘要
针对3D点云分类的对抗攻击方法揭示了点云识别模型的脆弱性。这种脆弱性可能导致在自动驾驶等使用深度学习模型的关键应用中产生安全风险。为了揭示这些模型的缺陷，研究人员可以通过对抗攻击来评估其安全性。然而，大多数现有的对抗攻击方法基于白盒攻击。虽然这些方法实现了较高的攻击成功率和不可感知性，但它们在现实场景中的适用性有限。在现实场景中更有意义的黑盒攻击，其结果往往较差。本文提出了一种新颖的黑盒对抗样本生成方法，该方法利用扩散模型来提高黑盒设置下的攻击成功率和不可感知性，而无需依赖点云分类模型的内部信息来生成对抗样本。我们使用3D扩散模型，将点云的压缩特征作为先验知识，引导反向扩散过程向干净样本添加对抗点。随后，利用其反向过程将其他类别的分布转换为对抗点，然后将这些点添加到点云中。
引用
@article{arxiv.2507.21163,
title = {Generating Adversarial Point Clouds Using Diffusion Model},
author = {Ruiyang Zhao and Bingbing Zhu and Chuxuan Tong and Xiaoyi Zhou and Xi Zheng},
journal= {arXiv preprint arXiv:2507.21163},
year = {2025}
}