以 LRP 解释神经网络决策的最佳实践探讨
机器学习
2020-07-15 v3 计算机视觉与模式识别
机器学习
摘要
在过去十年中，基于神经网络的预测器展现出令人印象深刻的——且有时超越人类的——能力。这一性能常以不透明的预测过程为代价，从而激发了可解释人工智能（XAI）这一新领域中大量的研究工作。在本文中，我们聚焦于一种流行且广泛使用的 XAI 方法：逐层相关性传播（LRP）。自其最初提出以来，LRP 已发展成为一种方法，并且应用该方法的最佳实践已 tacitly 形成，然而仅基于人工观测的证据。在本文中，我们首次量化地研究了当前最佳实践在视觉目标检测场景下对前馈神经网络的影响。结果验证了近期文献中采用的依赖于层级的 LRP 方法能更好地表征模型的推理过程，同时提升了 LRP 的目标定位与类别判别能力。
引用
@article{arxiv.1910.09840,
title = {Towards Best Practice in Explaining Neural Network Decisions with LRP},
author = {Maximilian Kohlbrenner and Alexander Bauer and Shinichi Nakajima and Alexander Binder and Wojciech Samek and Sebastian Lapuschkin},
journal= {arXiv preprint arXiv:1910.09840},
year = {2020}
}
备注
7 pages, 4 figures, 1 table. fixed table row compared to v2. Presented virtually at IJCNN 2020