面向短期负荷预测的带动态注意力的 ES-dRNN
机器学习
2022-03-03 v1 神经与进化计算
摘要
短期负荷预测（STLF）是一个具有挑战性的问题，因为其时间序列具有复杂的特性，表现出多重季节性和变化的方差。本文提出了一种混合预测模型的扩展，该模型结合了指数平滑与膨胀循环神经网络（ES-dRNN），并引入动态注意力机制。我们提出了一种新的门控循环单元——注意力膨胀循环单元，它实现了对输入向量分量进行动态加权的注意力机制。最相关的分量被赋予更大的权重，随后这些权重会被动态微调。这种注意力机制有助于模型选择输入信息，并与 ES-dRNN 中实现的其他机制（如自适应时间序列处理、交叉学习和多重膨胀）一起，与公认的统计模型和当前最优的机器学习预测模型相比，显著提高了预测精度。这一点在对 35 个欧洲国家进行短期负荷预测的广泛实验研究中得到了证实。
引用
@article{arxiv.2203.00937,
title = {ES-dRNN with Dynamic Attention for Short-Term Load Forecasting},
author = {Slawek Smyl and Grzegorz Dudek and Paweł Pełka},
journal= {arXiv preprint arXiv:2203.00937},
year = {2022}
}
备注
Code and data: https://github.com/slaweks17/ES-adRNN. arXiv admin note: text overlap with arXiv:2112.02663