DDT:用于能源时间序列预测的双遮蔽双专家Transformer
机器学习
2026-01-13 v1 人工智能
摘要
精确的能源时间序列预测对于确保电网稳定性和促进可再生能源集成至关重要,但面临复杂时序依赖和多源数据异质性等重大挑战。为此,我们提出DDT,一个新型且稳健的深度学习框架,用于高精度时间序列预测。其核心,DDT引入两个关键创新。首先,我们设计了双遮蔽机制,将严格因果遮蔽与数据驱动动态遮蔽有效结合。这种新设计确保了理论上的因果一致性,同时适应性地聚焦于最关键的历史信息,克服了传统遮蔽技术的僵化。其次,我们的体系结构包含双专家系统,将时序动力学和跨变量相关性解耦为平行、专门化的路径,然后通过动态门控融合模块智能集成。我们在7个具有挑战性的能源基准数据集上进行了大量实验,包括ETTh、Electricity和Solar。结果表明,DDT在所有预测时段上都显著优于强大的SOTA基线,为该任务建立了新的基准。
引用
@article{arxiv.2601.07250,
title = {DDT: A Dual-Masking Dual-Expert Transformer for Energy Time-Series Forecasting},
author = {Mingnan Zhu and Qixuan Zhang and Yixuan Cheng and Fangzhou Gu and Shiming Lin},
journal= {arXiv preprint arXiv:2601.07250},
year = {2026}
}