ResNet 上的保守性 Layer-Wise Relevance Propagation
计算机视觉与模式识别
2024-07-15 v1
摘要
解释方法的透明表述对于阐明神经网络预测至关重要，而这些模型通常是黑箱。Layer-Wise Relevance Propagation（LRP）是一种已建立的方法，通过反向传递相关性得分来追踪模型预测通过其架构的路径。然而，传统 LRP 并未充分考虑跳跃连接的存在，因此其应用于广泛使用的 ResNet 架构尚未得到充分探讨。本文通过在跳跃连接输出与残差块输出汇合的节点引入相关性分割（Relevance Splitting），将 LRP 扩展到 ResNet 模型。我们的公式化确保整个过程中保守性的保持，从而保持生成解释的完整性。为评估我们方法的有效性，我们在 ImageNet 和 Caltech-UCSD Birds-200-2011 数据集上进行实验。我们的方法在 Insertion-Deletion 等标准评估指标上优于基线方法，同时保持保守性。我们将在 https://5ei74r0.github.io/lrp-for-resnet.page/ 公开代码供进一步研究使用。
引用
@article{arxiv.2407.09115,
title = {Layer-Wise Relevance Propagation with Conservation Property for ResNet},
author = {Seitaro Otsuki and Tsumugi Iida and Félix Doublet and Tsubasa Hirakawa and Takayoshi Yamashita and Hironobu Fujiyoshi and Komei Sugiura},
journal= {arXiv preprint arXiv:2407.09115},
year = {2024}
}
备注
Accepted for presentation at ECCV2024