当因果干预遇上深度神经网络的对抗样本与图像掩蔽
摘要
发现和利用深度神经网络（DNNs）中的因果关系，对于理解和推理可解释视觉模型上的因果效应（CE）是至关重要的挑战。“干预”已被广泛用于本体论上识别因果关系。在本文中，我们提出了一个通过 do-calculus 进行视觉推理的因果推断框架。为了研究因果推理中像素级特征的干预效果，我们引入了逐像素掩蔽和对抗扰动。在我们的框架中，CE 是利用潜在空间中的特征和基于 DNN 的模型的扰动预测来计算的。我们进一步首次探讨了基于梯度方法生成的对抗扰动图像所发现的 CE 的特征脚注：~~https://github.com/jjaacckkyy63/Causal-Intervention-AE-wAdvImg。实验结果表明，在 Chest X-Ray-14 数据集上，与类激活映射等传统方法相比，CE 是理解 DNNs 的一种具有竞争力且稳健的指标，可用于人类可解释特征（例如症状）的推理。此外，CE 有望用于检测对抗样本，因为其在存在对抗扰动时具有显著的特征。
引用
@article{arxiv.1902.03380,
title = {When Causal Intervention Meets Adversarial Examples and Image Masking for Deep Neural Networks},
author = {Chao-Han Huck Yang and Yi-Chieh Liu and Pin-Yu Chen and Xiaoli Ma and Yi-Chang James Tsai},
journal= {arXiv preprint arXiv:1902.03380},
year = {2021}
}
备注
Noted our camera-ready version has changed the title. "When Causal Intervention Meets Adversarial Examples and Image Masking for Deep Neural Networks" as the v3 official paper title in IEEE Proceeding. Please use it in your formal reference. Accepted at IEEE ICIP 2019. Pytorch code has released on https://github.com/jjaacckkyy63/Causal-Intervention-AE-wAdvImg