探索多变量数据上的可解释 LSTM 神经网络
机器学习
2019-05-30 v1 机器学习
摘要
对于在包含目标变量和外生变量的时间序列上训练的循环神经网络，除了准确的预测外，还期望能提供对数据的可解释见解。在本文中，我们探索 LSTM 循环神经网络的结构以学习逐变量的隐藏状态，旨在捕捉多变量时间序列中的不同动态，并区分各变量对预测的贡献。利用这些逐变量的隐藏状态，提出了一种混合注意力机制来对目标变量的生成过程进行建模。然后，我们开发了相关的训练方法，以联合学习网络参数以及相对于目标变量预测的变量重要性和时间重要性。在真实数据集上的大量实验表明，通过捕捉不同变量的动态，预测性能得到了提升。同时，我们对解释结果进行了定性和定量评估。它展示了作为多变量数据预测和知识提取的端到端框架的前景。
引用
@article{arxiv.1905.12034,
title = {Exploring Interpretable LSTM Neural Networks over Multi-Variable Data},
author = {Tian Guo and Tao Lin and Nino Antulov-Fantulin},
journal= {arXiv preprint arXiv:1905.12034},
year = {2019}
}
备注
Accepted to International Conference on Machine Learning (ICML), 2019