论多域解释的必要性：面向深度时间序列模型的不确定性原理方法
机器学习
2025-06-05 v1 人机交互
摘要
解释时间序列模型的一种主流方法是在时域中生成归因。时间序列 XAI 的最新发展是解释空间的概念，即在时域中训练的任何模型都可以在替代域（如频域）中使用任何现有的 XAI 方法进行解释。目前的主流方法是在时域或归因最稀疏的域中呈现 XAI 归因。在本文中，我们证明在某些情况下，XAI 方法可以在时域和频域中生成突出根本不同特征的归因，且这些特征并非彼此的直接对应物。这表明应同时呈现两个域的归因，以实现更全面的解释。因此，这表明了多域解释的必要性。为了量化何时出现此类情况，我们将最初在量子力学中发展、后于调和分析与信号处理中研究的不确定性原理 (UP) 引入 XAI 文献。该原理确立了信号在时域和频域中可同时局部化的程度的下界。通过利用这一概念，我们评估时域和频域中的归因是否违反了该界限，这表明它们强调了不同的特征。换言之，UP 提供了一个充分条件，表明时域和频域解释不匹配，因此应将两者同时呈现给最终用户。我们在各种深度学习模型、XAI 方法以及广泛的分类和预测数据集上验证了该方法的有效性。UP 违规在各种数据集和 XAI 方法中频繁出现，突显了仅关注时域解释的现有方法的局限性。这强调了将多域解释作为新范式的必要性。
引用
@article{arxiv.2506.03267,
title = {On the Necessity of Multi-Domain Explanation: An Uncertainty Principle Approach for Deep Time Series Models},
author = {Shahbaz Rezaei and Avishai Halev and Xin Liu},
journal= {arXiv preprint arXiv:2506.03267},
year = {2025}
}