基于注意力孪生循环神经网络的事件序列与时间序列联合建模
机器学习
2017-03-27 v1
摘要
多种现实世界过程(通过网络)产生具有复杂时间动态的数据序列,需要加以研究。尤其,事件时间戳可携带关于底层网络动态的重要信息,而这些信息无法从由连续信号均匀采样得到的时间序列中获取。此外,在大多数复杂过程中,事件序列和均匀采样的时间序列数据可相互作用,这使得对这两种数据源进行联合建模成为必要。为解决上述问题,本文利用(时间)点过程的丰富框架对事件数据建模,并通过协同孪生循环神经网络(RNN)及时更新其强度函数。在所提架构中,强度函数由一个以异步事件为输入的 RNN 和另一个以时间序列为输入的 RNN 协同调制。此外,为增强模型的可解释性,引入了神经点过程的注意力机制。具有事件类型和时间戳预测输出层的完整模型可端到端训练,并允许对强度建模进行黑箱处理。我们在合成数据及三个真实世界基准数据集上证实了模型的优越性。
引用
@article{arxiv.1703.08524,
title = {Joint Modeling of Event Sequence and Time Series with Attentional Twin Recurrent Neural Networks},
author = {Shuai Xiao and Junchi Yan and Mehrdad Farajtabar and Le Song and Xiaokang Yang and Hongyuan Zha},
journal= {arXiv preprint arXiv:1703.08524},
year = {2017}
}
备注
14 pages