用于时序点过程事件分支推断的即插即用 Bregman ADMM 模块
机器学习
2025-01-09 v1
摘要
由时序点过程生成的事件序列通常与一个隐藏且结构化的事件分支过程相关联，该过程刻画了其历史事件与当前事件之间的触发关系。在本研究中，我们设计了一个基于 Bregman ADMM（BADMM）算法的新型即插即用模块，用于在时序点过程（TPP）的最大似然估计框架下推断与事件序列相关联的事件分支。具体而言，我们将事件分支的推断表述为在稀疏和低秩约束下关于事件转移矩阵的优化问题，并将其嵌入到现有 TPP 模型或其学习范式中。我们可以分别基于子空间聚类与稀疏组套索来实现该优化问题，并使用 Bregman ADMM 算法求解，其展开（unrolling）即得到所提出的 BADMM 模块。当通过期望最大化算法学习经典 TPP（例如 Hawkes 过程）时，BADMM 模块有助于在 E 步中推导出结构化的责任矩阵。类似地，BADMM 模块有助于为带有自注意力层的神经 TPP 推导出低秩且稀疏的注意力图。这些结构化的责任矩阵和注意力图作为学习到的事件转移矩阵，指示了事件分支，例如推断孤立事件以及那些触发众多后续事件的关键事件。在合成数据和真实数据上的实验表明，将我们的 BADMM 模块嵌入到现有 TPP 模型和学习范式中能够提升模型性能，并为我们提供可解释的结构化事件分支。代码可在 \url{https://github.com/qingmeiwangdaily/BADMM_TPP} 获取。
引用
@article{arxiv.2501.04529,
title = {A Plug-and-Play Bregman ADMM Module for Inferring Event Branches in Temporal Point Processes},
author = {Qingmei Wang and Yuxin Wu and Yujie Long and Jing Huang and Fengyuan Ran and Bing Su and Hongteng Xu},
journal= {arXiv preprint arXiv:2501.04529},
year = {2025}
}
备注
Accepted at AAAI 2025