EF-LLM：具备AI辅助自动化、增强稀疏预测与幻觉检测能力的能源预测大语言模型
机器学习
2024-12-25 v2 人工智能
摘要
准确的预测有助于实现能源系统中的供需平衡，支持决策与调度。传统模型缺乏AI辅助自动化，依赖专家，成本高昂，且在稀疏数据预测方面存在困难。为应对这些挑战，我们提出了能源预测大语言模型（EF-LLM），它将领域知识与时序数据相结合进行时间序列预测，支持预测前操作和预测后决策支持。EF-LLM的人机交互能力降低了预测任务的入门门槛，减少了对额外专家参与的需求。为实现这一目标，我们提出了一种结合可更新LoRA的持续学习方法以及用于对齐异构多模态数据的多通道架构，使EF-LLM能够持续学习异构多模态知识。此外，EF-LLM通过处理多模态数据的能力，在稀疏数据条件下实现了准确预测。我们提出了融合参数高效微调（F-PEFT）方法，以有效利用时序数据和文本实现此目的。EF-LLM也是首个能够检测幻觉并量化其发生率的能源专用大语言模型，通过多任务学习、语义相似度分析和方差分析（ANOVA）实现。我们在负荷、光伏和风电预测的能源预测场景中取得了成功。
引用
@article{arxiv.2411.00852,
title = {EF-LLM: Energy Forecasting LLM with AI-assisted Automation, Enhanced Sparse Prediction, Hallucination Detection},
author = {Zihang Qiu and Chaojie Li and Zhongyang Wang and Renyou Xie and Borui Zhang and Huadong Mo and Guo Chen and Zhaoyang Dong},
journal= {arXiv preprint arXiv:2411.00852},
year = {2024}
}