基于 Transformer 的少样本学习用于建模电力消耗曲线，在数千个领域中仅需极少数据
机器学习
2026-05-26 v3 系统与控制
系统与控制
摘要
电力消耗曲线对于运行和规划电力分配系统至关重要，特别是随着太阳能板和电动汽车等低碳技术数量的增加。传统的电力消耗曲线建模方法通常假设可获得充足的电力消耗曲线数据。然而，在实践中，由于隐私问题或计量设备的缺失，电力消耗曲线数据的可获取性受到限制。少样本学习已成为数据稀缺场景下电力消耗曲线建模的有前景的解决方案。然而，标准少样本学习方法（如用于图像的方法）不适合电力消耗曲线建模，因为（1）这些方法通常假设存在几个具有充足数据的源领域和几个目标领域。然而，在电力消耗曲线建模的语境中，可能存在数千个源领域（例如具有适量数据的家庭）和数千个目标领域（例如需要建模电力消耗曲线的家庭）。（2）标准少样本学习方法通常涉及繁琐的知识迁移机制，如预训练和微调。为了解决这些限制，本文提出了一种将 Transformer 与高斯混合模型相结合的新少样本学习框架用于电力消耗曲线建模。所提出的方法无需微调、计算高效，即使在数据极其有限的情况下也具有鲁棒性。结果表明，我们的方法可以用极少量的电力消耗曲线数据（例如仅一个完整领域数据集的 1.6%）准确恢复复杂的电力消耗曲线分布，并在电力消耗曲线建模的语境中优于最先进的时间序列建模方法。
引用
@article{arxiv.2408.08399,
title = {Transformer-based few-shot learning for modeling Electricity Consumption Profiles with minimal data across thousands of domains},
author = {Weijie Xia and Gao Peng and Chenguang Wang and Peter Palensky and Eric Pauwels and Pedro P. Vergara},
journal= {arXiv preprint arXiv:2408.08399},
year = {2026}
}