迈向多元时间序列可解释性的严谨评估
机器学习
2021-04-12 v1 人工智能
摘要
基于机器学习的系统正迅速普及，与之相应，为确保机器学习模型可靠、公平且可对其决策过程问责，可解释性领域出现了大量研究热潮。可解释人工智能（XAI）方法通常用于调试黑盒机器学习模型，但相较于表格、文本与图像数据，时间序列中的可解释性仍相对未被充分探索。本研究旨在实现并评估时间序列预测问题中的模型无关可解释性。该工作着力于为一家数字咨询公司提供解决方案，该公司旨在寻找数据驱动方法，以理解其销售相关活动对成交销售订单的影响。该方案将问题构建为预测销售订单的时间序列预测问题，并利用两种新颖的模型无关可解释性技术——局部可解释模型无关解释（LIME）与 Shapley 加性解释（SHAP）——实现可解释性，并通过可解释性的人工评估进行评价。结果清晰表明，LIME 与 SHAP 生成的解释极大帮助了普通人类理解机器学习模型所作预测。所呈现的工作可轻易扩展至任意时间
引用
@article{arxiv.2104.04075,
title = {Towards a Rigorous Evaluation of Explainability for Multivariate Time Series},
author = {Rohit Saluja and Avleen Malhi and Samanta Knapič and Kary Främling and Cicek Cavdar},
journal= {arXiv preprint arXiv:2104.04075},
year = {2021}
}
备注
Journal