RHYTHM:面向人类移动性的分层时序分词推理框架
机器学习
2026-02-25 v3 人工智能
计算与语言
摘要
由于复杂的长期依赖关系和多尺度周期性行为,预测人类移动性本质上极具挑战。为解决此问题,我们提出了RHYTHM(面向人类移动性的分层时序分词推理框架),一个利用大型语言模型(LLM)作为通用时空预测器和轨迹推理器的统一框架。在方法论上,RHYTHM采用时序分词将每条轨迹划分为每日片段,并将其编码为离散词元,通过分层注意力机制捕捉日和周依赖关系,从而在保留周期信息的同时将序列长度平方级地缩减。此外,我们通过一个冻结的LLM为轨迹片段和预测目标添加预计算的提示嵌入,并将这些组合嵌入反馈给LLM主干,以捕捉复杂的相互依赖关系,从而丰富了词元表示。在计算上,RHYTHM保持预训练的LLM主干冻结,从而实现了更快的训练速度和更低的内存占用。我们使用三个真实世界数据集,将我们的模型与最先进的方法进行了评估。值得注意的是,RHYTHM在总体准确率上提升了2.4%,在周末准确率上提升了5.0%,并将训练时间减少了24.6%。代码已公开于https://github.com/he-h/rhythm。
引用
@article{arxiv.2509.23115,
title = {RHYTHM: Reasoning with Hierarchical Temporal Tokenization for Human Mobility},
author = {Haoyu He and Haozheng Luo and Yan Chen and Qi R. Wang},
journal= {arXiv preprint arXiv:2509.23115},
year = {2026}
}
备注
Advances in Neural Information Processing Systems 39 (NeurIPS) 2025