时间序列分类中显著性解释的一致性与鲁棒性研究
机器学习
2023-09-06 v1
摘要
可解释机器学习与可解释人工智能已在诸多应用中变得不可或缺。可解释性与模型性能之间的权衡是开发内在与模型无关解释方法的掣肘。尽管模型解释方法在视觉与自然语言领域已取得显著成功，解释时间序列仍具挑战性。特征域中复杂模式加之额外的时间维度，阻碍了高效解释。显著性图已被用作像图像一样解释时间序列窗口。然而，它们并非为序列数据自然设计，因而存在各类问题。本文广泛分析了面向时间序列特征与时间归因的显著性图的一致性与鲁棒性。具体而言，我们在时间序列分类任务中考察基于扰动与基于梯度的解释模型的显著性解释。在五个真实世界数据集上的实验结果表明，它们均在一定程度上缺乏一致且鲁棒的表现。通过揭示有缺陷的显著性解释模型，我们旨在推动为时间序列分类开发一致且鲁棒的解释。
引用
@article{arxiv.2309.01457,
title = {On the Consistency and Robustness of Saliency Explanations for Time Series Classification},
author = {Chiara Balestra and Bin Li and Emmanuel Müller},
journal= {arXiv preprint arXiv:2309.01457},
year = {2023}
}