TraXion：重新思考人类移动及更广泛领域的预训练框架
机器学习
2026-05-11 v1
摘要
人类移动在三个结构上不同于文本和一般时间序列：访问是元组值事件，其含义取决于位置、时间和活动的联合分布；用户在轨迹中携带持久的特征；且用户之间的访问并非独立，因为在共享地点的同处一地是主要信号。现有的移动预训练方案从语言建模中引入目标，将轨迹视为句子，将访问视为词元，这种类比在面对上述三个属性时均告失效。这些属性定义了一个更广泛的类别，即多实体时空事件流（multi-entity spatiotemporal event streams, MESES），涵盖企业认证日志、电子健康记录以及其他实体共享基础设施、日程或上下文的事件流领域。我们将这些属性精确化为任何 MESES 预训练框架都应满足的三个公理，并提出了 TraXion，其目标和架构经过联合设计以满足这些公理。每个数据集仅需一个 TraXion 检查点，即可在涵盖异常检测、下一兴趣点（POI）推荐、下一访问预测和社交链接预测的六个公共移动数据集上，于所有任务中击败特定任务的基线。将相同方案原封不动地应用于企业认证日志和 ICU 死亡率预测，在两者上均匹配或超越了先前的工作，这表明来自移动、安全和医疗等截然不同领域的事件流可以在单一框架下进行建模。
引用
@article{arxiv.2605.06906,
title = {TraXion: Rethinking Pre-training Frameworks for Mobility and Beyond},
author = {Shang-Ling Hsu and Mark Tenzer and Cyrus Shahabi and Khurram Shafique},
journal= {arXiv preprint arXiv:2605.06906},
year = {2026}
}
备注
31 pages, 2 figures