使用 ECLAD-ts 进行时间序列概念提取
机器学习
2025-04-08 v1
摘要
用于时间序列分类（TSC）的卷积神经网络（CNN）正越来越多地应用于从质量预测到医学诊断的各种场景中。这些模型的黑盒性质使得理解其预测过程变得困难。这一问题至关重要，因为 CNN 容易学习捷径和偏差，从而损害其鲁棒性以及与人类预期的一致性。为了评估模型是否使用了此类机制及其相关风险，提供能够反映模型内部运作方式的模型解释是必不可少的。概念提取（CE）方法提供了此类解释，但目前主要针对图像领域开发，在时间序列领域仍存在空白。在本工作中，我们基于图像 CE 方法的思想，提出了一种针对时间序列领域定制的 CE 与定位方法。我们提出了新方法 ECLAD-ts，该方法基于模型如何在不同抽象层次上对输入子集进行编码，提供事后全局解释。为此，通过聚类 CNN 激活图的时间步聚合来生成概念，并根据其对预测过程的影响来计算其重要性。我们在合成和自然数据集上评估了我们的方法。此外，我们通过实证结果评估了 CE 在时间序列中的优势与局限性。结果表明，ECLAD-ts 能够通过利用模型的内部表示来有效解释模型，为其预测过程提供有用的见解。
引用
@article{arxiv.2504.05024,
title = {Concept Extraction for Time Series with ECLAD-ts},
author = {Antonia Holzapfel and Andres Felipe Posada-Moreno and Sebastian Trimpe},
journal= {arXiv preprint arXiv:2504.05024},
year = {2025}
}