贝叶斯 Transformer 用于智能电网中的概率负荷预测
机器学习
2026-03-10 v1 机器学习
摘要
现代电网可靠运行需要具备经校准不确定性估计的概率负荷预测。然而,现有深度学习模型会产生过于自信的点预测,在极端气候分布迁移时会发生灾难性失败。本研究提出了一种贝叶斯 Transformer (BT) 框架,将三种互补的不确定性机制集成到 PatchTST 主干网络中:用于表征参数层次不确定性的蒙特卡罗 Dropout、带对数均匀权重先验的变分前馈层,以及具有可学习高斯噪声扰动的随机注意力机制(作用于软最大化前的 logits),据我们所知,这是首次将贝叶斯注意力应用于概率负荷预测。七级多分位点森伯损失预测头和后训练的等距回归校准产生锐利、接近名义覆盖的预测区间。评估了五个电网数据集(PJM、ERCOT、ENTSO-E 德国、法国和大不列夠岛)并加入 NOAA 协变量,在 24、48 和 168 小时预测时段表明实现了最佳性能。在主要基准(PJM,H=24h)上,BT 的 CRPS 为 0.0289,相较于深度集成提升 7.4%,相较于确定性 LSTM 提升 29.9%,在 90% 名义水平下的 PICP 为 90.4%,且在所有概率基线中预测区间最窄(4,960 MW)。在热浪和寒潮事件期间,BT 分别保持 89.6% 和 90.1% 的 PICP,而确定性 LSTM 为 64.7% 和 67.2%,证明贝叶斯表征不确定性能自然扩大分布外输入的置信区间。各时段的校准保持稳定(89.8-90.4% PICP),而消融实验确认每个组件均贡献独特价值。校准后的输出直接支持风险导向的备用容量 sizing、随机单元承诺和需求响应激活。
引用
@article{arxiv.2603.07899,
title = {Bayesian Transformer for Probabilistic Load Forecasting in Smart Grids},
author = {Sajib Debnath and Md. Uzzal Mia},
journal= {arXiv preprint arXiv:2603.07899},
year = {2026}
}