从时间序列注意力中提取可解释的局部和全局表示
机器学习
2023-12-20 v1
摘要
本文针对时间序列数据，研究了两种基于Transformer注意力的可解释性方法，分别涉及局部抽象和全局表示。我们区分了局部和全局上下文，并为两种通用的解释选项提供了一个全面的框架。我们详细讨论了它们通过不同方法的具体实例化，并概述了各自的计算实现和抽象变体。此外，我们进行了大量实验，证明了所提出方法的有效性。具体而言，我们使用来自UCR UEA时间序列存储库的单变量数据集进行实验，评估了所提出方法的性能，以及它们对可解释性和可解释性/复杂性的影响。通过对超参数的广泛分析，所提出的方法在可解释性/复杂性方面表现出显著改进，同时捕捉了基线模型的许多核心决策，并保持了相似的性能。最后，我们得出了一般性结论，概述并指导了所提出方法的应用。
引用
@article{arxiv.2312.11466,
title = {Extracting Interpretable Local and Global Representations from Attention on Time Series},
author = {Leonid Schwenke and Martin Atzmueller},
journal= {arXiv preprint arXiv:2312.11466},
year = {2023}
}
备注
Paper: 54 Pages excluding references, 19 Figures, 30 Tables + Appendix: 12 Pages, 23 Tables