TSFeatLIME：增强单变量时间序列预测可解释性的在线用户研究
人工智能
2024-09-25 v1
摘要
时间序列预测在各类应用中至关重要，但常采用复杂模型，难以被人类理解。有效的可解释人工智能技术对于弥合模型预测与用户理解之间的差距至关重要。本文提出了 TSFeatLIME 框架，扩展自 TSLIME，专为解释单变量时间序列预测而设计。TSFeatLIME 将辅助特征整合到替代模型中，并考虑查询时间序列与生成样本之间的两两欧几里得距离，以提高替代模型的忠实度。然而，这类解释对人类实际有用性仍是未知数。我们通过两个交互式界面对 160 名参与者进行用户研究，以衡量不同背景用户在对照组和实验组中如何模拟或预测模型输出变化。我们的结果表明，在 TSFeatLIME 框架下，对黑箱模型的替代模型能够更好地考虑距离因素进行行为模拟，同时不牺牲准确性。此外，用户研究表明，针对没有计算机科学背景的参与者，解释效果显著更佳。
关键词
引用
@article{arxiv.2409.15950,
title = {TSFeatLIME: An Online User Study in Enhancing Explainability in Univariate Time Series Forecasting},
author = {Hongnan Ma and Kevin McAreavey and Weiru Liu},
journal= {arXiv preprint arXiv:2409.15950},
year = {2024}
}