基于对抗工具变量回归揭示对抗样本上的因果特征及用于鲁棒网络的因果接种
机器学习
2023-03-07 v1 人工智能
计算机视觉与模式识别
统计方法学
摘要
对抗样本的起源在研究领域仍不可解，尽管有全面探究，仍引发多方观点争论。本文从因果视角提出一种深入探究对抗训练网络中意外脆弱性的方法，即对抗工具变量（IV）回归。通过部署它，我们在脱离未知混杂因子的无偏环境下估计对抗预测的因果关系。我们的方法旨在利用因果特征估计器（即假设模型）与扰动以寻找因果特征的最坏反事实（即检验函数）之间的零和博弈，揭示对抗样本上固有因果特征。通过大量分析，我们证明估计的因果特征与对抗鲁棒性的正确预测高度相关，且反事实展现出偏离正确预测的极端特征。此外，我们展示如何有效将因果特征（CAFE）接种入防御网络以提升对抗鲁棒性。
引用
@article{arxiv.2303.01052,
title = {Demystifying Causal Features on Adversarial Examples and Causal Inoculation for Robust Network by Adversarial Instrumental Variable Regression},
author = {Junho Kim and Byung-Kwan Lee and Yong Man Ro},
journal= {arXiv preprint arXiv:2303.01052},
year = {2023}
}
备注
Accepted in CVPR 2023