UniST：面向城市时空预测的通用模型
机器学习
2024-07-02 v5
摘要
城市时空预测对于交通管理、资源优化和突发事件响应等知情决策至关重要。尽管预训练自然语言模型在处理多样化任务方面取得了显著突破，但尚未出现通用的时空预测解决方案。现有预测方法通常针对特定时空场景进行设计，需进行任务特定的模型设计和大量领域特定训练数据。本研究引入UniST，一个面向广泛场景下通用城市时空预测的通用模型。灵感来自大语言模型，UniST通过以下方式取得成功：(i) 利用来自不同场景的多样化时空数据，(ii) 有效预训练以捕捉复杂时空动态，(iii) 利用知识引导的提示词增强泛化能力。上述设计共同解锁了构建用于各种场景的通用模型的潜力。对20多个时空场景的大规模实验表明，UniST在推进前沿性能方面尤其在few-shot和zero-shot预测中表现出色。相关数据集和代码实现已发布于 https://github.com/tsinghua-fib-lab/UniST。
关键词
引用
@article{arxiv.2402.11838,
title = {UniST: A Prompt-Empowered Universal Model for Urban Spatio-Temporal Prediction},
author = {Yuan Yuan and Jingtao Ding and Jie Feng and Depeng Jin and Yong Li},
journal= {arXiv preprint arXiv:2402.11838},
year = {2024}
}
备注
2024 ACM SIGKDD International Conference on Knowledge Discovery and Data Mining, KDD 2024