GTM：一种用于增强时间序列数据表示学习的通用时间序列模型
机器学习
2026-03-13 v2
摘要
尽管时间序列基础模型近期取得了进展，但在改进表示学习和适应多样化下游任务方面仍然存在挑战。我们引入了通用时间序列模型（GTM），它通过一种新颖的频域注意力机制来推进表示学习，该机制捕获了时间粒度感知的特征，这是先前研究中未被充分探索的一个方面。我们进一步提出了一种新颖的预训练策略，通过混合掩码机制统一了重建和自回归目标。我们的预训练策略结合了二维位置编码和跨度混洗，增强了表示的鲁棒性和泛化能力。GTM 被确立为第一个用于时间序列分析的生成任务无关模型，无需任何特定于任务的修改即可无缝适应各种生成任务。大量实验表明，GTM 在各种生成任务上始终优于 SOTA 模型，并且以最小的适应实现了强大的分类结果。此外，GTM 表现出清晰的缩放行为，随着模型大小和预训练数据的增加，准确率得到提高。
引用
@article{arxiv.2502.03264,
title = {GTM: A General Time-series Model for Enhanced Representation Learning of Time-Series Data},
author = {Cheng He and Xu Huang and Gangwei Jiang and Zhaoyi Li and Defu Lian and Hong Xie and Enhong Chen and Xijie Liang and Zengrong Zheng and Patrick P. C. Lee},
journal= {arXiv preprint arXiv:2502.03264},
year = {2026}
}
备注
10 pages main text, 20 pages appendix. Accepted at ICLR 2026