基于大语言模型的零样本负荷预测
机器学习
2024-11-19 v1 信号处理
摘要
深度学习模型在负荷预测中表现出强大的性能，但在应用于新场景之前通常需要大量数据进行模型训练，这限制了它们在数据稀缺场景中的有效性。受预训练语言模型 (large language models, LLMs) 在自然语言处理领域巨大成功的启发，本文提出了一种使用先进 LLM 框架——即 Chronos 模型——的零样本负荷预测方法。通过利用其广泛的预训练知识，Chronos 模型能够在数据稀缺场景下实现准确的负荷预测，而无需进行大量针对特定数据的训练。在五个真实世界数据集上的仿真结果表明，即使 Chronos 模型没有针对这些特定负荷数据集进行定制或微调，其在各种预测范围（例如，1 到 48 小时）的确定性和概率性负荷预测中，都显著优于九种流行的基线模型。值得注意的是，与基线模型相比，Chronos 将均方根误差 (root mean squared error, RMSE)、连续排名概率分数 (continuous ranked probability score, CRPS) 和分位数分数 (quantile score, QS) 分别降低了约 7.34%-84.30%、19.63%-60.06% 和 22.83%-54.49%。这些结果突显了 Chronos 模型的优越性和灵活性，将其定位为数据稀缺场景中的有效解决方案。
引用
@article{arxiv.2411.11350,
title = {Zero-Shot Load Forecasting with Large Language Models},
author = {Wenlong Liao and Zhe Yang and Mengshuo Jia and Christian Rehtanz and Jiannong Fang and Fernando Porté-Agel},
journal= {arXiv preprint arXiv:2411.11350},
year = {2024}
}
备注
21 pages,5 figures