面向对抗鲁棒性的潜特征关系一致性
计算机视觉与模式识别
2023-03-30 v1
摘要
深度神经网络已应用于许多计算机视觉任务并取得了最先进的性能。然而，当DNN对自然样本添加人眼不可感知对抗噪声的对抗样本进行预测时，会发生误分类。这限制了DNN在安全关键领域的应用。为缓解该问题，我们首先对对抗样本与自然样本的潜特征进行实证分析，发现自然样本的相似度矩阵比对抗样本更紧凑。受此观察启发，我们提出\textbf{潜}\textbf{特}\textbf{征}\textbf{关}\textbf{系}\textbf{一}\textbf{致}\textbf{性}（\textbf{LFRC}），其约束对抗样本在潜空间中的关系与自然样本保持一致。重要的是，我们的LFRC与此前方法正交，可轻易与之结合以实现进一步提升。为证明LFRC的有效性，我们在基准数据集上使用不同神经网络进行了广泛实验。例如，在CIFAR10上针对AutoAttack，LFRC相较AT可带来0.78%的进一步提升，相较TRADES可带来1.09%的提升。代码见 https://github.com/liuxingbin/LFRC。
引用
@article{arxiv.2303.16697,
title = {Latent Feature Relation Consistency for Adversarial Robustness},
author = {Xingbin Liu and Huafeng Kuang and Hong Liu and Xianming Lin and Yongjian Wu and Rongrong Ji},
journal= {arXiv preprint arXiv:2303.16697},
year = {2023}
}
备注
Tech report