神经时序点过程模型在连续时间事件数据上预测精度的实证研究
机器学习
2023-07-11 v2
摘要
时序点过程(TPPs)是建模连续时间中异步事件序列的标准数学框架。然而,经典 TPP 模型常受强假设限制,难以捕捉复杂的真实世界事件动态。为克服此局限,研究者提出了神经 TPP,利用神经网络参数化提供更灵活高效的建模。尽管近期研究展示了神经 TPP 的有效性,它们往往缺乏统一设置,依赖不同的基线、数据集与实验配置。这使得识别驱动预测精度提升的关键因素变得困难,阻碍了研究进展。为弥补这一差距,我们提出一项全面的大规模实验研究,系统评估最先进神经 TPP 模型的预测精度。我们的研究涵盖多个真实与合成事件序列数据集,并遵循精心设计的统一设置。我们深入考察了事件编码、历史编码器与解码器参数化等主要架构组件对时间与标记预测任务的影响。此外,我们探讨了神经 TPP 模型概率校准这一较少被探索的领域。通过分析结果,我们就历史大小的重要性及架构组件对预测精度的影响得出深刻结论。进而,我们揭示了神经 TPP 模型中标记分布的错误校准现象。本研究旨在为神经 TPP 模型的性能与特性提供有价值的见解,增进对其优势与局限的理解。
引用
@article{arxiv.2306.17066,
title = {On the Predictive Accuracy of Neural Temporal Point Process Models for Continuous-time Event Data},
author = {Tanguy Bosser and Souhaib Ben Taieb},
journal= {arXiv preprint arXiv:2306.17066},
year = {2023}
}
备注
Published in Transactions of Machine Learning Research (TMLR)