DUP-Net:用于三维对抗点云防御的降噪与上采样网络
计算机视觉与模式识别
2019-07-30 v2
摘要
神经网络易受对抗样本攻击,这对其在安全敏感系统中的应用构成威胁。我们提出一种降噪与上采样网络(DUP-Net)结构作为三维对抗点云分类的防御,其中两个模块通过丢弃或添加点来重建表面平滑度。本文中,统计离群点去除(SOR)与数据驱动的上采样网络分别被视为降噪器与上采样器。相较于基线防御,DUP-Net具有三点优势。首先,以DUP-Net作为防御时,目标模型对白盒对抗攻击更具鲁棒性。其次,统计离群点去除提供了额外的鲁棒性,因其为非可微降噪操作。第三,上采样网络可在小数据集上训练,并能很好地防御由其他点云数据集生成的对抗攻击。我们进行了多种实验以验证DUP-Net在实践中作为防御非常有效。在PointNet上200个丢弃点下,我们的最佳防御消除了83.8%基于C&W与l_2损失的攻击(点偏移)、50.0%基于C&W与Hausdorff距离损失的攻击(点添加)以及9.0%基于显著图的攻击(点丢弃)。
引用
@article{arxiv.1812.11017,
title = {DUP-Net: Denoiser and Upsampler Network for 3D Adversarial Point Clouds Defense},
author = {Hang Zhou and Kejiang Chen and Weiming Zhang and Han Fang and Wenbo Zhou and Nenghai Yu},
journal= {arXiv preprint arXiv:1812.11017},
year = {2019}
}
备注
Published in IEEE ICCV2019