通过装袋、提升与统计集成提升基于 Transformer 的时间序列基石模型
机器学习
2025-08-26 v1 机器学习
摘要
时间序列基石模型 (TSFMs) 如 Lag-Llama、TimeGPT、Chronos、MOMENT、UniTS 和 TimesFM 在时间序列预测、异常检测、分类和插值方面展现出强大的泛化和零样本能力。尽管具有这些优势，但其预测在部署到实际运营数据时仍受方差、领域特定偏差和有限不确定性量化的制约。本文研究了一套统计和集成化的增强技术，包括基于引导的装袋、基于回归的堆叠、预测区间构建、统计残差建模和迭代误差反馈，以提高鲁棒性和准确性。以比利时电力短期负荷预测数据集为案例研究，我们展示，提议的混合方法在多个预测时域下均一致优于单一基石模型。基于回归的集成实现最低的均方误差；引导聚合显著降低长上下文误差；残差建模纠正了系统性偏差；而所得预测区间实现接近名义覆盖率，随着上下文长度增加而缩小区间宽度。结果表明，将统计推理与现代基石模型相结合，可在实际时间序列应用中实现准确性、可靠性和可解释性的可衡量提升。
引用
@article{arxiv.2508.16641,
title = {Enhancing Transformer-Based Foundation Models for Time Series Forecasting via Bagging, Boosting and Statistical Ensembles},
author = {Dhruv D. Modi and Rong Pan},
journal= {arXiv preprint arXiv:2508.16641},
year = {2025}
}