三维点云分类中的不可感知迁移攻击与防御
计算机视觉与模式识别
2022-03-25 v2 图像与视频处理
摘要
尽管近年来在 2D 图像域的攻击与防御已有诸多努力,少数方法探索 3D 模型的脆弱性。现有 3D 攻击者通常对点云进行逐点扰动,导致结构变形或离群点,易被人类察觉。此外,它们的对抗样本在白盒设定下生成,迁移攻击远程黑盒模型时成功率往往较低。在本文中,我们从两个新颖且具挑战性的视角研究 3D 点云攻击,提出一种新颖的不可感知迁移攻击(ITA):1) 不可感知性:我们约束每个点沿其邻域表面的法向量方向扰动,生成具有相似几何性质的样本,从而增强不可感知性。2) 迁移性:我们开发一种对抗变换模型以生成最具破坏性的畸变,并强制对抗样本抵抗该变换,提升其对未知黑盒模型的迁移性。进一步,我们提出通过学习的更具判别力的点云表示来训练更鲁棒的黑盒 3D 模型,以防御此类 ITA 攻击。大量评估表明,我们的 ITA 攻击比现有最优方法更不可感知且更具迁移性,并验证了我们的防御策略的优越性。
引用
@article{arxiv.2111.10990,
title = {Imperceptible Transfer Attack and Defense on 3D Point Cloud Classification},
author = {Daizong Liu and Wei Hu},
journal= {arXiv preprint arXiv:2111.10990},
year = {2022}
}