基于虚拟检视层的可解释时间序列人工智能
机器学习
2023-03-14 v1 人工智能
计算机视觉与模式识别
摘要
可解释人工智能(XAI)领域近年来取得长足进展，但主要集中于计算机视觉与自然语言处理。对于输入常不可解释的时间序列，关于 XAI 的研究十分有限。本文提出一种虚拟检视层，将时间序列转换为可解释的表示，并允许通过层-wise 相关性传播(LRP)等局部 XAI 方法将相关性归因传播至该表示。由此，我们将一类 XAI 方法的适用性扩展至输入仅在变换后可解释的领域（如语音）。此处我们聚焦于在时间序列解释与 LRP 中广泛应用的傅里叶变换，并将我们的方法称为 DFT-LRP。我们在音频与电子健康记录等多种时间序列分类场景中展示了 DFT-LRP 的效用。我们展示了 DFT-LRP 如何揭示不同域（如时域 vs. 频域）训练模型分类策略的差异，或如何帮助发现模型对数据中伪相关的利用方式。
引用
@article{arxiv.2303.06365,
title = {Explainable AI for Time Series via Virtual Inspection Layers},
author = {Johanna Vielhaben and Sebastian Lapuschkin and Grégoire Montavon and Wojciech Samek},
journal= {arXiv preprint arXiv:2303.06365},
year = {2023}
}
备注
13 pages, 7 figures