UrbanFM：规模化城市时空基础模型
机器学习
2026-03-03 v2 人工智能
摘要
城市系统作为动态复杂系统，不断生成包含人类移动和城市演化基本规律的时空数据流。虽然AI for Science在基因组学和气象学等学科中已见证了基础模型的变革性力量，但城市计算仍然因“场景特定”模型而呈碎片化，这些模型过度拟合特定地区或任务，阻碍了其泛化能力。为弥合这一差距并推动面向城市系统的时空基础模型，我们将规模化作为核心视角，系统性地探讨两个关键问题：规模什么，如何规模。基于第一性原理分析，我们识别出三个关键维度：异质性、相关性和动态性，将这些原则与城市时空数据的基本科学属性相吻合。具体而言，为了通过数据规模化来解决异质性问题，我们构建了WorldST。这一超大规模语料库将来自全球100多个城市的各种物理信号（如交通流量和速度）标准化为统一的数据格式。为通过计算规模化来实现建模相关性，我们引入MiniST单元，这是一种新型划分机制，将连续时空场离散化为可学习的计算单元，以统一网格数据和传感器数据的表示。最后，为了通过架构规模化来解决动态问题，我们提出UrbanFM，这是一个以有限归纳偏置为设计的极简自注意力架构，旨在从海量数据中自主学习动态时空依赖关系。此外，我们建立了EvalST，这是目前规模最大的城市时空基准测试。广泛的实验表明，UrbanFM在未见城市和任务上实现了显著的零样本泛化，标志着面向大规模城市时空基础模型的重要第一步。
引用
@article{arxiv.2602.20677,
title = {UrbanFM: Scaling Urban Spatio-Temporal Foundation Models},
author = {Wei Chen and Yuqian Wu and Junle Chen and Xiaofang Zhou and Yuxuan Liang},
journal= {arXiv preprint arXiv:2602.20677},
year = {2026}
}