主动伪干预：用于可解释视觉模型的因果感知对比学习
计算机视觉与模式识别
2021-05-03 v2 人工智能
摘要
深度神经网络擅长理解复杂视觉信号，其性能可与人类专家持平甚至更优。然而，对模型决策的临时视觉解释常揭示出令人担忧的程度——模型高度依赖利用训练数据中与目标标签强相关的非因果视觉线索。因此，深度神经网络对来自不同来源的新输入泛化能力受损，且其决策规则的反向工程提供的可解释性有限。为克服这些局限，我们提出一种称为主动伪干预（PPI）的新颖对比学习策略，其利用主动干预来防范无因果相关性的图像特征。我们还设计了一个新颖的因果感知显著图模块来识别需干预的关键图像像素，并展示其极大促进了模型可解释性。为证明我们方法的有效性，我们在标准自然图像与具挑战性的医学图像数据集上进行了基准测试。PPI 增强的模型相对于竞争方案持续提供更优性能，尤其在域外预测与异源数据整合上。此外，我们的因果训练显著图相对于非因果对应物更为简洁且有意义。
引用
@article{arxiv.2012.03369,
title = {Proactive Pseudo-Intervention: Causally Informed Contrastive Learning For Interpretable Vision Models},
author = {Dong Wang and Yuewei Yang and Chenyang Tao and Zhe Gan and Liqun Chen and Fanjie Kong and Ricardo Henao and Lawrence Carin},
journal= {arXiv preprint arXiv:2012.03369},
year = {2021}
}