PointACL:面向对抗攻击下鲁棒点云表示的对抗对比学习
计算机视觉与模式识别
2022-09-16 v1 人工智能
摘要
尽管基于自监督的对比学习模型在 3D 点云表示上近期取得进展,此类预训练模型的对抗鲁棒性仍引发担忧。对抗对比学习(ACL)被视为提升预训练模型鲁棒性的有效途径。在对比学习中,投影器被认为是在对比预训练期间去除不必要特征信息的有效组件,且多数 ACL 工作也使用带投影特征表示的对比损失来在预训练中生成对抗样本,而“未投影”特征表示则在推理时用于生成对抗输入。由于投影与“未投影”特征间的分布差距,其模型难以获得面向下游任务的鲁棒特征表示。我们提出一种新方法,通过在对比学习框架中利用“未投影”特征表示的虚拟对抗损失来生成高质量 3D 对抗样本以进行对抗训练。我们给出鲁棒感知损失函数以对抗式训练自监督对比学习框架。此外,我们发现使用法向差(DoN)算子选取高差异点作为对抗自监督对比学习的额外输入,可显著提升预训练模型的对抗鲁棒性。我们在下游任务(包括多数据集上的 3D 分类与 3D 分割)上验证了 PointACL 方法,其鲁棒准确率优于当前最优的对比对抗学习方法。
引用
@article{arxiv.2209.06971,
title = {PointACL:Adversarial Contrastive Learning for Robust Point Clouds Representation under Adversarial Attack},
author = {Junxuan Huang and Yatong An and Lu cheng and Bai Chen and Junsong Yuan and Chunming Qiao},
journal= {arXiv preprint arXiv:2209.06971},
year = {2022}
}
备注
arXiv admin note: text overlap with arXiv:2109.00179 by other authors