COLA:面向人类轨迹模拟的跨城市移动Transformer
机器学习
2024-03-05 v1 人工智能
摘要
日常移动设备产生的人类轨迹数据已在城市规划、疫情防控等多个重要领域证明了其价值。出于对个人隐私的担忧,人类轨迹模拟吸引了研究者越来越多的关注,旨在为下游任务提供大量逼真的移动数据。然而,普遍存在的数据稀缺问题无疑降低了现有深度学习模型的可靠性。本文中,我们受到启发,探索跨城市移动迁移这一有趣问题,通过掌握人类轨迹的通用模式,利用外部移动数据增强强大的Transformer。跨城市知识迁移面临两个关键挑战:1) 如何迁移Transformer以适应领域异质性;2) 如何校准Transformer以适应位置的长尾频率分布中微妙的差异。为应对这些挑战,我们设计了一个跨城市移动Transformer(COLA),并配备了一个专用的模型无关迁移框架,通过有效迁移跨城市知识来实现人类轨迹模拟。首先,COLA将Transformer划分为用于城市特定特征的私有模块和用于城市通用移动模式的共享模块。其次,COLA采用一种轻量级且有效的后验调整策略进行轨迹模拟,而不干扰模型无关知识迁移的复杂双层优化。与最先进的单城市基线和我们实现的跨城市基线相比,大量实验证明了COLA的优越性和有效性。代码可在https://github.com/Star607/Cross-city-Mobility-Transformer获取。
引用
@article{arxiv.2403.01801,
title = {COLA: Cross-city Mobility Transformer for Human Trajectory Simulation},
author = {Yu Wang and Tongya Zheng and Yuxuan Liang and Shunyu Liu and Mingli Song},
journal= {arXiv preprint arXiv:2403.01801},
year = {2024}
}
备注
Accepted by WWW 2024