Mamba Hawkes Process
机器学习
2024-07-09 v1 机器学习
摘要
不规则且异步的事件序列在众多领域中广泛存在，例如社交媒体、金融和医疗保健领域。传统的时序点过程（TPP），如Hawkes过程，常常难以有效建模相互抑制和非线性关系。虽然近期的神经网络模型，包括循环神经网络（RNN）和Transformer，解决了其中的一些问题，但仍面临长期依赖和计算效率的挑战。本文介绍了Mamba Hawkes Process（MHP），其利用Mamba状态空间架构捕捉长程依赖关系和动态事件相互作用。我们的结果表明，MHP在各种数据集上均优于现有模型。此外，我们提出了Mamba Hawkes Process Extension（MHP-E），将Mamba和Transformer模型结合以增强预测能力。我们对Mamba架构应用于Hawkes过程的新颖应用、灵活且可扩展的模型结构，以及状态空间模型与Hawkes过程协同作用的理论分析进行了阐述。实验结果表明，MHP和MHP-E均表现出色，推动了时序点过程建模领域的发展。
引用
@article{arxiv.2407.05302,
title = {Mamba Hawkes Process},
author = {Anningzhe Gao and Shan Dai and Yan Hu},
journal= {arXiv preprint arXiv:2407.05302},
year = {2024}
}