Damba-ST:高效城市时空预测的领域自适应 Mamba 模型
机器学习
2026-02-04 v3 人工智能
摘要
训练能够在 diverse regions and cities 之间良好泛化的城市时空基础模型, 对在未知或数据稀缺地区部署城市服务至关重要。近期研究通常致力于融合跨域时空数据以训练统一的基于 Transformer 的模型。然而, 这些模型受制于二次计算复杂度和高内存开销, 限制了其可扩展性和实际部署。灵感来自 Mamba 的高效性, 这是一种具有线性时间复杂度的状态空间模型, 我们探索其在高效城市时空预测中的潜力。然而, 直接将 Mamba 作为时空骨干网络会导致负迁移和严重性能下降。这主要是由于时空异构性以及 Mamba 隐藏状态更新的递归机制, 限制了跨域泛化。为克服这些挑战, 我们提出 Damba-ST, 一个用于高效城市时空预测的领域自适应 Mamba 模型。Damba-ST 保持 Mamba 的线性复杂度优势, 并显著提升其对异构领域的适应性。具体而言, 我们引入两个核心创新: (1) 一种领域自适应状态空间模型, 将潜在表示空间划分为用于学习跨域共性特征的共享子空间, 以及用于捕获领域内判别性特征的独立、领域特定子空间; (2) 三个不同的领域适配器, 作为领域感知的代理, 用于桥接不同领域分布并促进跨域共性特征的对齐。大量实验表明, Damba-ST 在泛化性和效率方面均表现出色。它在预测任务上实现了最先进的性能, 并展示了强大的零样本泛化能力, 使其能够在无需大量再训练或微调的情况下, 无缝部署到新的城市环境中。
引用
@article{arxiv.2506.18939,
title = {Damba-ST: Domain-Adaptive Mamba for Efficient Urban Spatio-Temporal Prediction},
author = {Rui An and Yifeng Zhang and Ziran Liang and Wenqi Fan and Yuxuan Liang and Xuequn Shang and Qing Li},
journal= {arXiv preprint arXiv:2506.18939},
year = {2026}
}
备注
Accepted by ICDE 2026