ChronoVAE-HOPE：超越注意力——面向专业时间序列分类的下一代VAE基石模型
机器学习
2026-05-26 v2
摘要
时间序列基石模型（TSFMs）已成为通用时间序列预测领域的前沿技术之一，但将其适配至专业化分类任务仍受两个相互关联的挑战制约：标准注意力机制的二次计算成本，以及无法解耦导致时间序列变异性的结构性组成部分。本技术报告介绍ChronoVAE-HOPE，这是下一代TSFM，旨在实现大范围泛化与结构化潜在表示的统一，专注于时间序列分类。其核心思想是构建在HOPE模块之上的变分自编码器（VAE）框架，取代二次注意力机制，采用双记忆系统：Titans模块用于动态短期保留，连续记忆系统（CMS）用于抽象长期历史背景。关键的架构新颖性在于解耦潜在空间，将表示因子化为独立的趋势和季节性组成部分，分别通过专用编码器头部和独立解码器路径实现。ChronoVAE-HOPE在Monash数据存档上进行自监督预训练，结合掩码时间序列建模（MTSM）辅助目标与解耦VAE重构损失。预训练的编码器随后被冻结，用于生成固定长度的嵌入向量，以用于UCR基准数据集上的下游分类。实验结果表明，ChronoVAE-HOPE在多样化的时间序列领域中表现出强大的性能，尤其在严格因果结构的场景中效果尤为突出。ChronoVAE-HOPE构建了一个可靠且可解释的框架，实现了基石模型向时间序列分类的结构化生成表示适配。
引用
@article{arxiv.2605.22684,
title = {ChronoVAE-HOPE: Beyond Attention -- A Next-Generation VAE Foundation Model for Specialized Time Series Classification},
author = {José Alberto Rodríguez and Luis Balderas and Miguel Lastra and Antonio Arauzo-Azofra and José M. Benítez},
journal= {arXiv preprint arXiv:2605.22684},
year = {2026}
}