基于神经网络时间点过程的元学习
机器学习
2024-01-30 v1 机器学习
摘要
人类活动产生各种事件序列,如出租车行程记录、共享单车取车、犯罪发生和传染病传播。点过程在许多应用中被广泛用于预测此类与人类活动相关的事件。然而,点过程在预测与人类活动相关的事件时存在两个问题。首先,近期高性能的点过程模型需要输入在较长时期内收集的充足数量事件(即长序列)进行训练,而这在实际场景中往往无法获得。其次,现实应用所需的长期预测十分困难。为了解决这些问题,我们提出了一种新颖的元学习方法,能够在给定短序列的情况下进行周期性感知的未来事件预测。该方法首先通过循环神经网络将短序列嵌入到隐藏表示(即任务表示)中,从而利用短序列创建预测。然后,它以任务表示作为输入,利用单调神经网络(MNN)对点过程的强度进行建模。我们迁移从相关任务中学到的先验知识,能够改善给定目标任务短序列时的事件预测。我们设计 MNN 以显式地将时间周期模式纳入考虑,有助于提升长期预测性能。在多个真实世界数据集上的实验表明,所提方法比现有替代方法具有更高的预测性能。
引用
@article{arxiv.2401.15846,
title = {Meta-Learning for Neural Network-based Temporal Point Processes},
author = {Yoshiaki Takimoto and Yusuke Tanaka and Tomoharu Iwata and Maya Okawa and Hideaki Kim and Hiroyuki Toda and Takeshi Kurashima},
journal= {arXiv preprint arXiv:2401.15846},
year = {2024}
}