MOMEMTO:时间序列基础模型中基于分块的记忆门模型
机器学习
2026-01-30 v3
摘要
近期,基于重构的深度模型已广泛应用于时间序列异常检测,但随着其容量与泛化能力的增强,这些模型倾向于过度泛化,常能准确重构未见过的异常。已有工作尝试通过引入存储正常模式原型的记忆架构来缓解此问题。然而,这些方法训练成本高昂,且尚未与时间序列基础模型(TFM)有效集成。为应对这些挑战,我们提出 MOMEMTO,一种用于异常检测的 TFM 改进变体,通过增强基于分块的记忆模块来缓解过度泛化。该记忆模块旨在从多个领域捕获具有代表性的正常模式,并通过多领域训练策略使单一模型能够在多个数据集上联合微调。MOMEMTO 利用预训练编码器的潜在表示初始化记忆项,将其组织为分块级单元,并通过注意力机制进行更新。我们在 23 个单变量基准数据集上评估了该方法。实验结果表明,作为单一模型,MOMEMTO 在 AUC 和 VUS 指标上取得了高于基线方法的分数,并进一步提升了其骨干 TFM 的性能,尤其在少样本学习场景中表现突出。
引用
@article{arxiv.2509.18751,
title = {MOMEMTO: Patch-based Memory Gate Model in Time Series Foundation Model},
author = {Samuel Yoon and Jongwon Kim and Juyoung Ha and Young Myoung Ko},
journal= {arXiv preprint arXiv:2509.18751},
year = {2026}
}