TsSHAP：面向时间序列预测的鲁棒模型无关基于特征的可解释性方法
机器学习
2023-03-23 v1
摘要
一个可信的机器学习模型应当既准确又可解释。理解模型为何做出某一决策定义了可解释性的概念。尽管在分类和回归等监督学习范式下，各种可解释性方法已得到充分研究，但关于时间序列预测可解释性的文献相对匮乏。本文提出一种基于特征的可解释性算法 TsSHAP，能够解释任意黑盒预测模型的预测结果。该方法与预测模型无关，并可根据用户预先定义的可解释特征对预测提供解释。解释以 SHAP 值的形式给出，通过对一个代理模型应用 TreeSHAP 算法获得，该代理模型学习了可解释特征空间与黑盒模型预测之间的映射关系。此外，我们在时间序列预测背景下形式化了局部、半局部和全局解释的概念，这在多种场景中均有用处。我们通过多个数据集上的大量实验验证了 TsSHAP 的有效性与鲁棒性。
引用
@article{arxiv.2303.12316,
title = {TsSHAP: Robust model agnostic feature-based explainability for time series forecasting},
author = {Vikas C. Raykar and Arindam Jati and Sumanta Mukherjee and Nupur Aggarwal and Kanthi Sarpatwar and Giridhar Ganapavarapu and Roman Vaculin},
journal= {arXiv preprint arXiv:2303.12316},
year = {2023}
}
备注
11 pages, 8 figures