SMURF-THP：基于得分匹配的 Transformer 霍克斯过程不确定性量化
机器学习
2023-10-26 v1 机器学习
摘要
Transformer 霍克斯过程模型在建模事件序列数据方面已证明成功。然而，大多数现有训练方法依赖于最大化事件序列的似然，这涉及计算某些难解积分。此外，现有方法无法为模型预测提供不确定性量化，例如预测事件到达时间的置信区间。为解决这些问题，我们提出 SMURF-THP，一种基于得分的方法，用于学习 Transformer 霍克斯过程并量化预测不确定性。具体而言，SMURF-THP 基于得分匹配目标学习事件到达时间的得分函数，从而避免难解计算。借助该学到的得分函数，我们可以从预测分布中采样事件到达时间。这自然允许通过对生成样本计算置信区间来量化不确定性。我们在事件类型预测和到达时间不确定性量化两方面进行了大量实验。在所有实验中，SMURF-THP 在置信校准上优于现有基于似然的方法，同时展现出可比的预测精度。
引用
@article{arxiv.2310.16336,
title = {SMURF-THP: Score Matching-based UnceRtainty quantiFication for Transformer Hawkes Process},
author = {Zichong Li and Yanbo Xu and Simiao Zuo and Haoming Jiang and Chao Zhang and Tuo Zhao and Hongyuan Zha},
journal= {arXiv preprint arXiv:2310.16336},
year = {2023}
}