影响 SHAP 对时间序列分类解释的因素实证评估
人工智能
2025-09-05 v1
摘要
可解释人工智能 (XAI) 成为越来越重要的主题，以理解和归因复杂时间序列分类 (TSC) 模型所做出的预测。在归因方法中，SHapley 叠加解释 (SHAP) 被广泛认为是优秀的归因方法；但其计算复杂度随特征数量的指数增长，限制了其在长时间序列上的实用性。为此，最近的研究表明，通过分段聚合特征来计算一组连续时间点的单个归因值，可大幅降低 SHAP 运行时间。然而，最佳分段策略的选择仍是一个开放问题。本文我们考察了八种不同的时间序列分段算法，以了解分段组成如何影响解释质量。我们使用两种 established XAI 评估方法：InterpretTime 和 AUC Difference。通过在多变量时间序列 (MTS) 和单变量时间序列 (UTS) 上的实验，我们发现分段数量对解释质量的影响大于具体的分段方法。值得注意的是，等长分段始终优于大多数自定义时间序列分段算法。此外，我们引入一种新的归因归一化技术，对分段长度进行加权，并展示它一致改善了归因质量。
引用
@article{arxiv.2509.03649,
title = {An Empirical Evaluation of Factors Affecting SHAP Explanation of Time Series Classification},
author = {Davide Italo Serramazza and Nikos Papadeas and Zahraa Abdallah and Georgiana Ifrim},
journal= {arXiv preprint arXiv:2509.03649},
year = {2025}
}