PowerPM：电力系统基础模型
机器学习
2024-10-04 v3 人工智能
摘要
大量电力时间序列（ETS）数据的出现为电力系统中的各种应用提供了充足机会，包括需求侧管理、网格稳定和消费者行为分析。深度学习模型通过有效捕获序列依赖性，推进了ETS建模。然而，针对各种应用学习ETS数据的通用表征仍具有挑战，由于ETS数据固有的复杂层次结构。此外，ETS数据表现出复杂的时序依赖性，且易受外生变量的影响。此外，不同实例显示出多样化的电力消费行为。本文提出一种基础模型PowerPM，用于建模ETS数据，为电力系统提供大规模、即插即用模型。PowerPM由时序编码器和层次编码器组成。时序编码器捕获ETS数据中的时序依赖性，考虑外生变量。层次编码器建模层次间的相关性。此外，PowerPM利用一种新型自监督预训练框架，包括掩码ETS建模和双视图对比学习，使其能够捕获ETS窗口内的时序依赖性，意识到ETS窗口之间的差异，提供两种视角来学习通用表征。我们的实验涉及五个真实世界场景数据集，包括私有和公共数据。通过在大规模ETS数据上预训练，PowerPM在私有数据集上的下游任务实现SOTA性能。令人印象深刻的是，当迁移到公共数据集时，PowerPM仍保持优势，展现出在各种任务和领域中卓越的泛化能力。此外，消融实验和few-shot实验进一步证明了该模型的有效性。
引用
@article{arxiv.2408.04057,
title = {PowerPM: Foundation Model for Power Systems},
author = {Shihao Tu and Yupeng Zhang and Jing Zhang and Zhendong Fu and Yin Zhang and Yang Yang},
journal= {arXiv preprint arXiv:2408.04057},
year = {2024}
}
备注
23 pages, 5 figures, 8 tables