解释基于回归的神经网络模型

已有多种方法被提出用于解释深度神经网络（DNN）。然而，据我们所知，仅研究了分类网络，试图确定哪些输入维度促成了决策。此外，由于该问题没有 ground truth，结果仅在对于人类有意义方面进行定性评估。在本工作中，我们设计了一个可以确立 ground truth 的实验设置：我们生成理想信号和带误差的受损信号，并学习一个神经网络来确定信号的质量。该质量仅仅是基于受损信号与相应理想信号之间距离的分数。我们随后试图找出网络如何估计该分数，并希望找到信号中存在误差的时间步和维度。该实验设置使我们能够比较几种网络解释方法，并提出一种基于多次训练以降低大多数最先进结果中噪声的新方法，名为 AGRA（Accurate Gradient，精确梯度）。对比结果表明，所提方法在定位信号中发生误差的时间步方面优于最先进的方法。