CausAdv：基于因果框架的对抗样本检测方法
机器学习
2026-01-21 v3 人工智能
计算机视觉与模式识别
统计方法学
机器学习
摘要
深度学习在计算机视觉领域取得了巨大成功，这主要归功于卷积神经网络（CNN）。然而，CNN已被证明对精心设计的对抗扰动脆弱。对抗样本的这种脆弱性推动了通过对抗检测与防御方法提升模型鲁棒性的研究。在本文中，我们通过因果推理来解决CNN的对抗鲁棒性问题。我们提出CausAdv：一种基于反事实推理的对抗样本检测因果框架。CausAdv学习每个输入的因果特征与非因果特征，并量化最后一卷积层中每个滤波器的反事实信息（CI）。随后我们对干净样本与对抗样本中滤波器的CI进行统计分析，以证明对抗样本表现出与干净样本不同的CI分布。我们的结果表明，因果推理增强了对抗检测过程，而无需训练独立的检测器。此外，我们通过可视化提取的因果特征，展示了因果解释作为一种有效检测工具的效率。
引用
@article{arxiv.2411.00839,
title = {CausAdv: A Causal-based Framework for Detecting Adversarial Examples},
author = {Hichem Debbi},
journal= {arXiv preprint arXiv:2411.00839},
year = {2026}
}