面向稀疏事件数据的多轴注意力预测：在犯罪预测中的应用
机器学习
2021-10-06 v1
摘要
事件数据的时空预测是一项具有悠久研究历史的挑战性任务。尽管近期时空预测工作利用了深度序列模型，相较经典方法有了实质性改进，但当观测极其稀疏时（如犯罪事件预测任务），这些模型易于过拟合。为克服这些稀疏性问题，我们提出面向稀疏事件数据的多轴注意力预测（MAPSED）。我们提出一种纯注意力方法，通过两个观测角度提取事件传播的短期动态与长期语义。不同于现有主要沿时间维度传播潜在信息的时序预测模型，MAPSED同时在嵌入数据张量的所有轴（时间、二维空间、事件类型）上运作。我们额外引入一种基于Frobenius范数的对比学习目标，以改善潜在表示的泛化能力。在经验上，我们在两个公开可用的城市犯罪数据集上验证MAPSED用于时空稀疏事件预测，MAPSED优于经典与最先进的深度学习模型。所提出的对比学习目标显著增强了MAPSED捕捉事件语义与动态的能力，从而获得更好的泛化能力以对抗稀疏观测。
引用
@article{arxiv.2110.01794,
title = {Multi-axis Attentive Prediction for Sparse EventData: An Application to Crime Prediction},
author = {Yi Sui and Ga Wu and Scott Sanner},
journal= {arXiv preprint arXiv:2110.01794},
year = {2021}
}