用于多负荷时间序列预测的 Transformer 训练策略
机器学习
2023-07-26 v3 人工智能
摘要
在未来的智能电网中，针对单个客户的精确负荷预测有助于在本地平衡供需并防止电网中断。随着智能电表持续部署，受监控客户的数量将会增加，但每个客户的数据量始终有限。我们评估了一种 Transformer 负荷预测模型是否能从迁移学习策略中获益，该策略在来自多个客户的负荷时间序列上训练一个全局单变量模型。在使用包含两个数据集（含数百个客户的负荷时间序列）的实验中，我们发现全局训练策略优于相关工作中使用的多变量和局部训练策略。平均而言，在从未来一天到一个月的预测区间内衡量，全局训练策略的预测误差比其他两种策略分别低 21.8% 和 12.8%。与线性模型、多层感知机以及 LSTMs 的比较表明，当采用全局训练策略训练时，Transformers 对负荷预测是有效的。
引用
@article{arxiv.2306.10891,
title = {Transformer Training Strategies for Forecasting Multiple Load Time Series},
author = {Matthias Hertel and Maximilian Beichter and Benedikt Heidrich and Oliver Neumann and Benjamin Schäfer and Ralf Mikut and Veit Hagenmeyer},
journal= {arXiv preprint arXiv:2306.10891},
year = {2023}
}