TSInsight：一种用于时间序列数据可解释性的局部-全局归因框架
机器学习
2020-04-08 v1 人工智能
机器学习
摘要
随着深度学习方法在安全关键场景中的使用增多，可解释性比以往任何时候都更为重要。尽管针对视觉模态的可解释性已探索诸多方向，时间序列数据因可理解性差仅测试了少数方法而被忽视。我们以新颖方式处理可解释性问题，提出TSInsight：将自编码器连接至分类器，对其输出施加稀疏诱导范数，并基于分类器梯度与重构惩罚进行微调。TSInsight学习保留对分类器预测重要的特征并抑制无关特征，即作为一种特征归因方法以提升可解释性。与多数其他归因框架不同，TSInsight能生成基于实例与基于模型的解释。我们在8个不同时间序列数据集上将TSInsight与9种其他常用归因方法评估以验证其效力。评估结果显示TSInsight自然实现输出空间收缩，因此是深度时间序列模型可解释性的有效工具。
引用
@article{arxiv.2004.02958,
title = {TSInsight: A local-global attribution framework for interpretability in time-series data},
author = {Shoaib Ahmed Siddiqui and Dominique Mercier and Andreas Dengel and Sheraz Ahmed},
journal= {arXiv preprint arXiv:2004.02958},
year = {2020}
}