ComS2T：一种用于数据自适应模型演化的互补时空学习系统
机器学习
2024-03-05 v1
摘要
时空学习已成为实现智慧城市和可持续城市发展的关键技术。当前的时空学习模型通过各种空间卷积和时间演化模块来捕捉异质性。然而，快速城市化导致城市数据和城市结构在短期内分布波动，使得现有方法面临泛化和数据适应问题。尽管已有努力，现有方法无法处理新到达的观测数据，且具有泛化能力的方法在重复训练中受限。受神经科学中互补学习的启发，我们引入了一种基于提示的互补时空学习，称为ComS2T，以增强模型的数据适应演化能力。ComS2T将神经架构划分为用于巩固历史记忆的稳定新皮层和用于新知识更新的动态海马体。我们首先将两个不相交的结构解耦为稳定权重和动态权重，然后通过刻画主要观测的分布来训练空间和时间提示，使提示能够适应新数据。这种数据自适应的提示机制，结合两阶段训练过程，有助于基于提示对神经架构进行微调，从而在测试期间实现高效适应。大量实验验证了ComS2T在适应各种时空分布外场景的同时保持高效推理能力的有效性。
引用
@article{arxiv.2403.01738,
title = {ComS2T: A complementary spatiotemporal learning system for data-adaptive model evolution},
author = {Zhengyang Zhou and Qihe Huang and Binwu Wang and Jianpeng Hou and Kuo Yang and Yuxuan Liang and Yang Wang},
journal= {arXiv preprint arXiv:2403.01738},
year = {2024}
}