时间序列分类中事后可解释性方法的评估

事后可解释性方法是解释神经网络结果的关键工具。近年来出现了若干事后方法，但当应用于给定任务时，它们产生不同的结果，引发了哪种方法最适合提供正确事后可解释性的问题。为理解每种方法的性能，对可解释性方法进行定量评估至关重要。然而，现有可用框架存在若干缺陷，阻碍了事后可解释性方法的采用，尤其是在高风险行业。本工作中，我们提出一个带有定量指标的框架，以评估现有事后可解释性方法在时间序列分类中的性能。我们表明文献中确认的若干缺陷得到了解决，即对人类判断的依赖、重新训练，以及在遮挡样本时的数据分布偏移。此外，我们设计了一个具有已知判别特征和可调复杂度的合成数据集。所提方法和定量指标可用于理解实际应用中获得的可解释性方法结果的可靠性。进而，它们可嵌入需要准确可解释性结果（例如监管政策）的关键领域操作工作流中。