中文

预训练模型对分布式能源资源建模精度与效用的贡献

机器学习 2023-02-24 v1 应用统计

摘要

尽管数据驱动的真实世界动力系统模型日益流行,其仍需大量数据。然而,由于感知限制以及隐私顾虑,这些数据并非总可获得,尤其在能源等领域。利用相似背景下收集的数据训练的预训练模型在解决这些顾虑方面展现出巨大潜力:它们能以低得多的观测数据代价提升预测精度。理论上,由于负迁移带来的风险,这种提升既非对所有智能体一致,也非 guaranteed。本文利用若干分布式能源资源的数据,调查并报告了这方面若干关键问题的初步发现。首先,我们评估了有无微调下预训练模型带来的预测精度提升。随后,我们考虑公平性问题:预训练模型是否为异质智能体带来均等提升,这如何转化为下游效用?回答这些问题有助于促进此类预训练模型在创建、微调和采用上的改进。

关键词

引用

@article{arxiv.2302.11679,
  title  = {On the contribution of pre-trained models to accuracy and utility in modeling distributed energy resources},
  author = {Hussain Kazmi and Pierre Pinson},
  journal= {arXiv preprint arXiv:2302.11679},
  year   = {2023}
}