TripCast：基于掩码 2D Transformer 的旅行时间序列预训练方法
机器学习
2024-10-25 v1 人工智能
摘要
深度学习和预训练模型在时间序列预测中取得了显著成功。然而，在旅游行业，时间序列数据常表现出导时特性，呈现 2D 结构，这为该领域的预测带来了独特挑战。本文提出一种新颖的建模范式，TripCast，将旅行时间序列视为 2D 数据，通过掩码和重建过程学习表征。在大规模真实数据上预训练后，TripCast 在领域内预测场景中显著优于其他最先进基准，在领域外预测场景中展现出强大的可扩展性和可迁移性。
关键词
引用
@article{arxiv.2410.18612,
title = {TripCast: Pre-training of Masked 2D Transformers for Trip Time Series Forecasting},
author = {Yuhua Liao and Zetian Wang and Peng Wei and Qiangqiang Nie and Zhenhua Zhang},
journal= {arXiv preprint arXiv:2410.18612},
year = {2024}
}
备注
Accepted by ICONIP 2024