对抗样本在扩散模型流形中未对齐
计算机视觉与模式识别
2024-03-19 v5 密码学与安全
摘要
近年来，扩散模型（DMs）因其在逼近数据分布方面的成功而备受关注，并产生了最先进的生成结果。然而，这些模型的多功能性超越了其生成能力，涵盖了各种视觉应用，如图像修复、分割、对抗鲁棒性等。本研究致力于通过扩散模型的视角来研究对抗攻击。然而，我们的目标并非提升图像分类器的对抗鲁棒性。相反，我们专注于利用扩散模型来检测和分析这些攻击在图像上引入的异常。为此，我们系统地检验了对抗样本分布在经过扩散模型变换过程后的对齐情况。该方法的有效性在 CIFAR-10 和 ImageNet 数据集上进行了评估，后者包含不同图像尺寸。结果表明，该方法具有显著区分良性图像与受攻击图像的能力，为对抗样本与扩散模型所学流形未对齐提供了有力证据。
引用
@article{arxiv.2401.06637,
title = {Adversarial Examples are Misaligned in Diffusion Model Manifolds},
author = {Peter Lorenz and Ricard Durall and Janis Keuper},
journal= {arXiv preprint arXiv:2401.06637},
year = {2024}
}
备注
accepted at IJCNN