打破批归一化：通过逐层相关性传播提升深度神经网络可解释性
机器学习
2020-02-26 v1 人工智能
机器学习
摘要
神经网络缺乏透明性仍是其主要应用障碍。逐层相关性传播（Layer-wise Relevance Propagation）技术构建热图，表示每个输入在模型决策中的相关性。相关性从深度神经网络的最后一层向后传播至第一层。逐层相关性传播不处理归一化层，本文提出一种将归一化层纳入的方法。具体而言，我们构建一个等价网络，将归一化层与卷积层或全连接层融合。在 MNIST 与 CIFAR 10 数据集上，我们的方法所得热图对卷积层更为准确。我们的研究还表明，不应将逐层相关性传播用于包含全连接层与归一化层组合的网络。
引用
@article{arxiv.2002.11018,
title = {Breaking Batch Normalization for better explainability of Deep Neural Networks through Layer-wise Relevance Propagation},
author = {Mathilde Guillemot and Catherine Heusele and Rodolphe Korichi and Sylvianne Schnebert and Liming Chen},
journal= {arXiv preprint arXiv:2002.11018},
year = {2020}
}