一种用于带外生变量自回归模型的可解释 LSTM 神经网络
机器学习
2018-04-17 v1 机器学习
摘要
在本文中,我们提出了一种可解释的 LSTM 循环神经网络,即用于带外生变量时间序列的多变量 LSTM。当前循环神经网络中广泛使用的注意力机制多聚焦于数据的时间方面,难以刻画变量重要性。为此,我们开发了配备张量化隐藏状态的多变量 LSTM 以学习变量特定表示,从而同时产生时间层面与变量层面的注意力。初步实验表明,多变量 LSTM 相较于基于编码器-解码器的基线具有可比的预测性能。更有趣的是,由变量注意力刻画的真实数据集中的变量重要性,与统计 Granger 因果检验所确定的高度一致,这展示了多变量 LSTM 作为一种简单且统一的端到端框架在预测与知识发现两方面的前景。
引用
@article{arxiv.1804.05251,
title = {An interpretable LSTM neural network for autoregressive exogenous model},
author = {Tian Guo and Tao Lin and Yao Lu},
journal= {arXiv preprint arXiv:1804.05251},
year = {2018}
}