AED-PADA：通过主对抗域适应提升对抗样本检测的泛化能力
计算机视觉与模式识别
2024-12-05 v2 密码学与安全
机器学习
摘要
对抗样本检测可便捷地应用于多种场景，在对抗防御领域具有重要作用。遗憾的是，现有的检测方法泛化性能较差，因为其训练过程通常依赖于由单一已知对抗攻击生成的样本，且训练集与未见测试对抗样本之间存在较大差异。为解决此问题，我们提出了一种名为基于主对抗域适应的对抗样本检测(AED-PADA)的新方法。具体而言，我们的方法识别出主对抗域，即由不同攻击生成的对抗样本特征的组合，该组合占据了整个对抗特征空间的很大一部分。随后，我们开创性地在对抗样本检测中利用多源无监督域适应，并以主对抗域作为源域。实验结果证明了我们提出的 AED-PADA 具有卓越的泛化能力。值得注意的是，这种优越性在采用最小幅度约束扰动的极具挑战性的场景中尤为显著。
引用
@article{arxiv.2404.12635,
title = {AED-PADA:Improving Generalizability of Adversarial Example Detection via Principal Adversarial Domain Adaptation},
author = {Heqi Peng and Yunhong Wang and Ruijie Yang and Beichen Li and Rui Wang and Yuanfang Guo},
journal= {arXiv preprint arXiv:2404.12635},
year = {2024}
}