中文

基于递归神经网络建模点过程强度函数

机器学习 2017-05-26 v1 人工智能 机器学习

摘要

事件序列以随机时间戳异步生成,在应用中无处不在。精确且任意的时间戳可以携带关于底层动态的重要线索,并使事件数据从根本上区别于具有固定且等长时间间隔索引的时间序列。建模事件的一种富有表现力的数学工具是点过程。许多点过程的强度函数包含两个组成部分:背景强度和历史事件的影响。由于其固有的自发性,背景强度可被视为一个时间序列,而另一部分则需要处理历史事件。在本文中,我们使用一个递归神经网络(RNN)对背景强度进行建模,其单元与时间序列索引对齐;而历史影响则由另一个 RNN 建模,其单元与异步事件对齐,以捕捉长程动态。整个模型包含事件类型和时间戳预测输出层,可以进行端到端训练。我们的方法从 RNN 视角看待点过程,并对其背景和历史影响进行建模。在实用性方面,我们的方法允许对强度进行黑箱处理,而强度在点过程中通常是预定义的参数化形式。同时,端到端训练为在点过程建模中重用深度网络中现有的丰富技术开辟了途径。我们将模型应用于预测性维护问题,使用的日志数据集来自一家总部位于北美的大型全球银行的 1000 多台 ATM。

关键词

引用

@article{arxiv.1705.08982,
  title  = {Modeling The Intensity Function Of Point Process Via Recurrent Neural Networks},
  author = {Shuai Xiao and Junchi Yan and Stephen M. Chu and Xiaokang Yang and Hongyuan Zha},
  journal= {arXiv preprint arXiv:1705.08982},
  year   = {2017}
}

备注

Accepted at Thirty-First AAAI Conference on Artificial Intelligence (AAAI17)