深度神经网络逐层相关性可解释性增强的泛化
计算机视觉与模式识别
2020-10-20 v2 人工智能
摘要
深度神经网络的实际应用仍受其缺乏透明性的限制。为人工智能(AI)所作决策提供解释的努力之一，是使用显著图或热图来高亮对其预测有显著贡献的相关区域。先前引入了逐层幅度滤波方法以改进热图质量，通过抑制噪声尖峰进行误差校正。在本研究中，我们通过考虑任何可识别的误差并假设存在真值可解释信息，对逐层误差校正进行泛化。我们研究了通过逐层相关性方法传播的误差形式，并提出了一种针对所用特定神经网络的信号幅度趋势定制的可解释性信号校正滤波技术。最后，我们提出了使用真值可解释信息的论据。
引用
@article{arxiv.2009.02516,
title = {Generalization on the Enhancement of Layerwise Relevance Interpretability of Deep Neural Network},
author = {Erico Tjoa and Guan Cuntai},
journal= {arXiv preprint arXiv:2009.02516},
year = {2020}
}