事实还是伪迹?在各种人工神经网络架构上修正逐层相关性传播
机器学习
2023-07-03 v2 计算机视觉与模式识别
摘要
逐层相关性传播(LRP)是一种广泛使用且强大的技术,用于揭示各种人工神经网络(ANN)架构的内在机理。LRP 常用于图像分类语境。其旨在理解输入样本的哪些部分具有最高相关性,从而对该模型预测影响最大。相关性可经网络回溯,以为每个输入像素赋予特定分数。相关性分数随后被组合并显示为热图,使人类直观视觉理解分类模型。打开黑箱以详尽理解分类引擎,对领域专家建立对 ANN 模型的信任至关重要。然而,在所获相关性图中存在模型固有的伪迹陷阱,易被忽略。但对有效解释而言,这些伪迹不可忽略。在此,我们在作为地理空间与合成数据分类器训练的各种 ANN 架构上应用并修正 LRP。依据网络架构,我们展示控制模型关注点的技术,并给出改进所获相关性图质量以分离事实与伪迹的指引。
引用
@article{arxiv.2302.12317,
title = {Fact or Artifact? Revise Layer-wise Relevance Propagation on various ANN Architectures},
author = {Marco Landt-Hayen and Willi Rath and Martin Claus and Peer Kröger},
journal= {arXiv preprint arXiv:2302.12317},
year = {2023}
}
备注
Fixed typo