面向物理世界中可迁移的定向 3D 对抗攻击
计算机视觉与模式识别
2024-06-11 v3
摘要
与可迁移的无目标攻击相比,可迁移的定向对抗攻击可以指定对抗样本的错误分类类别,对安全关键任务构成更大的威胁。同时,3D 对抗样本由于其多视角鲁棒性的潜力,能够更全面地识别现有深度学习系统的弱点,具有巨大的应用价值。然而,可迁移的定向 3D 对抗攻击领域目前仍属空白。本工作的目标是开发一种更有效的技术,能够生成可迁移的定向 3D 对抗样本,以填补该领域的空白。为了实现这一目标,我们设计了一个名为 TT3D 的新颖框架,能够从少量多视角图像快速重构为可迁移的定向 3D 纹理网格。现有的基于网格的纹理优化方法在高维网格空间中计算梯度,容易陷入局部最优,导致迁移性不理想且存在明显扭曲,而 TT3D 创新地在基于网格的 NeRF 空间中对特征网格和多层感知机(MLP)参数进行双重优化,在保持自然性的同时显著增强了黑盒迁移性。实验结果表明,TT3D 不仅展现出卓越的跨模型迁移性,而且在不同渲染器和视觉任务之间也保持了相当的适应性。更重要的是,我们在真实世界中使用 3D 打印技术制作了 3D 对抗样本,并验证了它们在各种场景下的鲁棒性能。
引用
@article{arxiv.2312.09558,
title = {Towards Transferable Targeted 3D Adversarial Attack in the Physical World},
author = {Yao Huang and Yinpeng Dong and Shouwei Ruan and Xiao Yang and Hang Su and Xingxing Wei},
journal= {arXiv preprint arXiv:2312.09558},
year = {2024}
}
备注
Accepted by CVPR 2024