辨别混沌：在解耦有意与无意噪声中检测对抗性扰动
计算机视觉与模式识别
2024-10-01 v1 人工智能
摘要
深度学习模型，例如用于人脸识别和属性预测的模型，容易受到对抗性噪声以及高斯噪声和脉冲噪声等无意噪声的操纵。本文介绍了CIAI，一个基于带有检测层的改进视觉Transformer构建的类别无关对抗意图检测网络。CIAI采用了一种结合最大均值差异和中心损失的新型损失函数，用于检测有意（对抗攻击）和无意噪声，而与图像类别无关。它以多步方式进行训练。我们还引入了检测过程中的意图方面，这可以作为额外的安全层。我们进一步在CelebA、CelebA-HQ、LFW、AgeDB和CIFAR-10数据集上展示了我们提出的检测器的性能。我们的检测器能够检测有意扰动（如FGSM、PGD和DeepFool）和无意扰动（如高斯噪声和椒盐噪声）。
引用
@article{arxiv.2409.19619,
title = {Discerning the Chaos: Detecting Adversarial Perturbations while Disentangling Intentional from Unintentional Noises},
author = {Anubhooti Jain and Susim Roy and Kwanit Gupta and Mayank Vatsa and Richa Singh},
journal= {arXiv preprint arXiv:2409.19619},
year = {2024}
}