用归因均衡揭示神经元激活中的显著贡献
计算机视觉与模式识别
2024-10-29 v2 人工智能
摘要
随着深度神经网络的显著成功，旨在清晰解释其决策过程的研究兴趣日益增长。本文中，我们引入归因均衡，一种将输出预测分解为细粒度归因的新方法，通过平衡正相关性负相关性以实现对网络决策背后证据的更清晰可视化。我们仔细分析了传统的决策解释方法，并提出了关于证据守恒的不同视角。我们将证据定义为梯度衍生的初始贡献图中正影响与负影响之间的差距。随后，我们在传播过程中引入对抗性元素以及用户定义的正归因程度准则。此外，我们考虑了未激活神经元在传播规则中的作用，从而增强了对背景等较不相关元素的辨别力。我们在经核验的实验环境中使用 PASCAL VOC 2007、MS COCO 2014 和 ImageNet 数据集进行了多项评估。结果表明，在识别影响模型决策的关键输入特征方面，我们的方法在定性与定量上均优于现有归因方法。
引用
@article{arxiv.2205.11109,
title = {Illuminating Salient Contributions in Neuron Activation with Attribution Equilibrium},
author = {Woo-Jeoung Nam and Seong-Whan Lee},
journal= {arXiv preprint arXiv:2205.11109},
year = {2024}
}