解释空间：时间序列可解释性的新视角

对深度学习模型进行人类可理解的解释对于各种关键和敏感应用至关重要。不同于图像或表格数据，其中每项输入特征（对于分类器的决策）的重要性可以直接投射到输入中，时间序列中可辨识的特征（例如主导频率）往往难以在时域中显现，以便用户轻松理解。此外，大多数解释方法需要一个基线值，以指示任何特征的缺失。然而，特征缺失的概念——通常定义为视觉任务中的黑色像素或表格数据中的零/均值——在时间序列中没有明确的定义。尽管将可解释人工智能（XAI）方法从表格和视觉领域引入时间序列领域，但这些差异限制了这些XAI方法在实际中的应用。在本文中，我们提出一种简单而有效的方法，允许原本在时域上训练的模型在其他解释空间中进行解释，同时无需改变训练好的模型或XAI方法。我们建议五种解释空间，每种都可能在特定类型的时间序列中缓解这些问题。该方法可以轻松集成到现有平台中，而无需对训练好的模型或XAI方法进行任何修改。稿件接受后将公开代码。