TgDLF2.0：基于 Transformer 与迁移学习的理论引导深度学习电力负荷预测
机器学习
2022-10-07 v1 信号处理
摘要
电能是当今社会不可或缺的资源。准确的电力负荷预测有利于更好地调度发电并节约电能。本文提出理论引导深度学习负荷预测 2.0（TgDLF2.0）以解决此问题，它是基于集成长短期记忆（TgDLF）的理论引导深度学习负荷预测框架的改进版本。TgDLF2.0 在将电力负荷划分为无量纲趋势与局部波动的基础上，引入深度学习模型 Transformer 与迁移学习，实现了领域知识的利用，捕捉了负荷序列的长期依赖，更适用于样本稀缺的真实场景。不同地区的交叉验证实验表明，TgDLF2.0 比 TgDLF 准确率约高 16% 且节省一半以上训练时间。带 50% 天气噪声的 TgDLF2.0 与无噪声的 TgDLF 精度相同，证明其鲁棒性。我们还初步挖掘了 TgDLF2.0 中 Transformer 的可解释性，可为未来更好的理论引导提供潜力。此外，实验表明迁移学习能使模型在半数训练轮数内加速收敛并取得更优性能。
引用
@article{arxiv.2210.02448,
title = {TgDLF2.0: Theory-guided deep-learning for electrical load forecasting via Transformer and transfer learning},
author = {Jiaxin Gao and Wenbo Hu and Dongxiao Zhang and Yuntian Chen},
journal= {arXiv preprint arXiv:2210.02448},
year = {2022}
}