时序解释的时序感知集成梯度
机器学习
2025-06-06 v1 人工智能
摘要
最近的时序人工智能可解释性(XAI)方法主要估计点状归因幅度，却忽视了对预测的方向性影响，导致关键点识别次优。我们的分析表明，常规集成梯度(IG)有效捕获具有正负两方面影响的关键点。然而，当前评估指标未能评估这一能力，因为它们不小心地抵消了对立特征贡献。为此，我们提出了新的评估指标——累积预测差(Cumulative Prediction Difference, CPD)和累积预测保存(Cumulative Prediction Preservation, CPP)，系统性地评估归因方法是否准确识别时序XAI中显著的正负点。在这些指标下，常规IG在时序XAI方法中表现优于近期作品。然而，直接将IG应用于时序数据可能导致次优结果，因为生成的路径忽略了时序关系并引入了分布外样本。为克服这些挑战，我们引入TIMING，通过纳入时序感知而保持其理论特性来增强IG。大量实验在合成和真实时序基准数据集上表明，TIMING在时序XAI基准中显著优于现有方法。我们的代码已公开于https://github.com/drumpt/TIMING。
引用
@article{arxiv.2506.05035,
title = {TIMING: Temporality-Aware Integrated Gradients for Time Series Explanation},
author = {Hyeongwon Jang and Changhun Kim and Eunho Yang},
journal= {arXiv preprint arXiv:2506.05035},
year = {2025}
}
备注
ICML 2025 Spotlight Presentation; Code is available at https://github.com/drumpt/TIMING