CausalAdv：从因果视角看对抗鲁棒性
机器学习
2022-05-31 v2
摘要
深度神经网络的对抗脆弱性在机器学习中引起了广泛关注。由于因果推理在建模分布变化方面具有天然优势，将因果性纳入分析由对抗攻击引发的这类特定分布变化至关重要。然而，文献中仍缺乏对抗攻击直觉的因果表述以及鲁棒深度神经网络的构建。为弥补这一差距，我们构建了一个因果图来建模对抗样本的生成过程，并定义对抗分布以形式化对抗攻击的直觉。从因果视角出发，我们研究了自然分布与对抗分布之间的区别，并得出结论：对抗脆弱性的根源在于模型对虚假相关性的关注。受因果理解的启发，我们提出了因果启发的对抗分布对齐方法 CausalAdv，通过考虑虚假相关性来消除自然分布与对抗分布之间的差异。大量实验证明了所提方法的有效性。我们的工作是首次尝试利用因果性来理解和缓解对抗脆弱性。
引用
@article{arxiv.2106.06196,
title = {CausalAdv: Adversarial Robustness through the Lens of Causality},
author = {Yonggang Zhang and Mingming Gong and Tongliang Liu and Gang Niu and Xinmei Tian and Bo Han and Bernhard Schölkopf and Kun Zhang},
journal= {arXiv preprint arXiv:2106.06196},
year = {2022}
}
备注
ICLR2022, 20 pages, 3 figures